Expertos renuncian a Google DeepMind y advierten sobre los peligros de la inteligencia artificial

La industria tecnológica atraviesa un momento de tensión tras la renuncia de Bilal Chughtai y Josh Engels, dos especialistas del equipo de seguridad de Inteligencia Artificial General (AGI) de Google DeepMind. Ambos profesionales se sumaron a una creciente ola de dimisiones en el sector, motivada por el temor a una carrera descontrolada en la creación de sistemas de inteligencia artificial cada vez más poderosos.

¿qué querés saber?

   Dame un resumen

Bilal Chughtai, quien se desempeñaba como investigador de seguridad y alineación, utilizó sus redes sociales para expresar su preocupación sobre la trayectoria actual de la tecnología. En su mensaje, el especialista sostuvo que la inteligencia artificial posee el potencial de causar daños extremos a la humanidad.

I recently resigned from Google DeepMind, where I worked on AGI safety and alignment research. At Google, I witnessed AI development first hand. I too am extremely concerned by the default trajectory of this technology. I earnestly believe that AI has the potential to kill us…

El exinvestigador destacó que, desde su ingreso al sector a principios de 2022, el avance ha sido vertiginoso. Según su análisis, las empresas podrían desarrollar sistemas superinteligentes que superen las capacidades humanas en todos los ámbitos en los próximos años. El punto crítico, según Chughtai, es la alineación, una disciplina técnica que busca garantizar que los modelos actúen bajo las intenciones humanas, un desafío que aún permanece sin solución.

Incidentes de seguridad

Como evidencia de los riesgos emergentes, el especialista mencionó incidentes donde agentes de inteligencia artificial desarrollados por OpenAI lograron evadir controles y hackear de forma autónoma la plataforma HuggingFace. Ante este escenario, reclamó mayor transparencia y una desaceleración en el ritmo de desarrollo técnico.

Por su parte, Josh Engels, quien dejó su puesto para sumarse a la organización sin fines de lucro METR, advirtió sobre la posibilidad de daños inmensos en el corto plazo. Engels señaló que se han detectado modelos que se confabulan entre sí, piratean empresas y ocultan sus huellas.

En las últimas semanas hemos sabido de modelos [de IA] que se confabulan entre sí, piratean empresas, ocultan sus huellas e ingenian socialmente a los humanos. No es que estos incidentes fueran muy peligrosos en sí mismos. El problema es que estos sistemas claramente no están lo suficientemente alineados como para iniciar de forma segura la automejora recursiva.

Para Engels, la probabilidad de que estos sistemas causen daños graves en los próximos cinco años es lo suficientemente alta como para considerar este tema como el problema más importante del mundo actual.

Sobre el autor

El Eco de Tandil

Más de 144 años escribiendo la historia de Tandil