El desarrollo de la inteligencia artificial causa preocupación en muchas personas. Con esto en mente, Google, Microsoft, OpenAI y Anthropic han creado el Frontier Model Forum, que tiene como objetivo garantizar el desarrollo seguro y responsable de los modelos de IA. La iniciativa, sin embargo, es vista con escepticismo: los expertos consideran que puede ser solo una forma de evitar la regulación del sector.
Entre los objetivos del grupo se encuentran:
- avanzar en la investigación de seguridad de IA para promover el desarrollo responsable de modelos;
- identificar las mejores prácticas para el desarrollo y la implementación;
- colaborar con los responsables políticos, los investigadores, la sociedad civil y las empresas para compartir conocimientos sobre los riesgos de seguridad;
- Apoyar iniciativas para desarrollar aplicaciones para los principales desafíos sociales, como el cambio climático, las amenazas cibernéticas y la prevención del cáncer.
Las cuatro compañías se encuentran entre los principales nombres en inteligencia artificial generativa.
- OpenAI es responsable de ChatGPT.
- Microsoft ha puesto tales tecnologías en productos como Bing, Edge y Microsoft 365.
- Google presentó su chatbot, llamado Bard.
- Anthropic, formado por antiguos miembros de OpenAI, está trabajando en su modelo, llamado Claude.
El grupo podrá aceptar nuevos miembros, pero los criterios son bastante restringidos. La participación se limita a las empresas que construyen «modelos de aprendizaje automático a gran escala que superan las capacidades actualmente presentes en los modelos más avanzados».
Como señala el Financial Times, esto sugiere que el grupo no está vigilando los problemas actuales de la inteligencia artificial, como la infracción de derechos de autor, los riesgos de privacidad y el desempleo causado por la sustitución del trabajo humano.
Los modelos más avanzados pueden traer nuevos problemas, y eso es en lo que está pensando el Frontier Model Forum.
La IA está en la mira de las nuevas regulaciones
El tema de la inteligencia artificial atrae la atención de las autoridades. En Estados Unidos, el presidente Joe Biden ha prometido una acción ejecutiva para promover la «innovación responsable». La Comisión Federal de Comercio (FTC) está investigando a OpenAI por posibles prácticas desleales o engañosas relacionadas con la protección de datos.
Recientemente, las cuatro compañías en el Frontier Model Forum, Meta, Inflection y Amazon acordaron seguir las pautas de la Casa Blanca para la IA.
La Unión Europea ha avanzado en las conversaciones para aprobar un conjunto de reglas para la IA, destinadas a promover derechos y valores como la supervisión humana, la transparencia, la no discriminación y el bienestar social.
En una entrevista con el Financial Times, Emily Bender, investigadora de la Universidad de Washington, dijo que la iniciativa Frontier Model Forum es una forma de «evitar la regulación» y tratar de «reclamar la posibilidad de autorregulación».
Durante las conversaciones y debates de los últimos meses, Sam Altman, CEO y uno de los fundadores de OpenAI, ha estado argumentando que no es el momento de regular la IA porque perjudicaría la innovación.
Para él, esto debería hacerse solo cuando surja un modelo tan inteligente como la civilización humana. Incluso en este caso, Altman considera que lo más adecuado sería la creación de una agencia global, como la Agencia Internacional de Energía Atómica, vinculada a la Organización de las Naciones Unidas (ONU).
Con información: The Financial Times, The Washington Post, TechCrunch
Comments
Loading…