Este viernes, en Desayunos Tecno, Gustavo Gallino nos contó todo acerca de la iniciativa que están planteando grandes empresas.
¿Quiénes están involucrados?
OpenAI, Anthropic y Google están colaborando para establecer un organismo independiente de supervisión ante los crecientes riesgos de la IA. La medida responde a una creciente preocupación pública e incidentes recientes relacionados con capacidades autónomas de los modelos.
¿Por qué entienden que es necesario?
La propuesta busca que los desarrolladores sometan los modelos avanzados a pruebas de seguridad antes de su lanzamiento y permitan revisiones externas.
¿Cómo sería el enfoque de supervisión independiente?
Los principales competidores de la IA se unen tras una propuesta presentada en julio por Demis Hassabis, director ejecutivo de Google DeepMind, para crear un organismo de estándares similares a los modelos financieros. Chris Lehane, jefe de política global de OpenAI, confirmó que los laboratorios avanzan en estándares de seguridad de frontera con o sin apoyo oficial del gobierno.
¿Cuáles fueron las primeras reacciones políticas y corporativas?
La administración de Donald Trump se muestra reacia a imponer regulaciones estrictas o frenar el desarrollo por temor a perder ventaja frente a competidores como China, prefiriendo pruebas voluntarias. Otros desarrolladores como Nvidia también manifestaron su preocupación por el uso descontrolado, pero no consideran que la regulación sea la solución adecuada.