Líderes de la inteligencia artificial piden desacelerar la carrera por modelos más poderosos

La carrera por desarrollar sistemas de inteligencia artificial cada vez más avanzados comenzó a generar señales de alarma entre algunos de sus principales protagonistas. Los líderes de Anthropic y OpenAI coincidieron en la necesidad de desacelerar el avance de los denominados modelos de frontera y fortalecer los mecanismos independientes de supervisión.

¿qué querés saber?

   Dame un resumen

La discusión tomó impulso luego de las declaraciones de Jacob Coxon, investigador que trabajó en OpenAI y Anthropic y que recientemente dejó esta última compañía con fuertes cuestionamientos sobre la velocidad y las condiciones en las que avanza el desarrollo de la tecnología.

Coxon puso el foco en los riesgos que supone que un reducido número de compañías privadas compita por construir sistemas cada vez más capaces, mientras los mecanismos externos de control avanzan a un ritmo considerablemente menor.

El planteo adquirió mayor relevancia luego de que Dario Amodei, CEO de Anthropic, publicara un ensayo titulado “We Must Pace the Frontier”, en el que propuso moderar la velocidad de la competencia para permitir que las herramientas de seguridad puedan acompañar el crecimiento de las capacidades de los modelos.

“Escribí un nuevo ensayo sobre por qué la industria de la IA debería desacelerar, con un plan de tres partes para hacerlo”, señaló Amodei al presentar su propuesta.

La compañía acompañó la advertencia con una medida concreta. Anthropic permitirá que evaluadores externos tengan acceso permanente a sus sistemas, en condiciones similares a las de sus propios empleados, con el objetivo de verificar las medidas de seguridad, detectar posibles incidentes y analizar el comportamiento y alineamiento de los modelos durante su entrenamiento.

La iniciativa encontró rápidamente el respaldo de uno de sus principales competidores. Sam Altman, CEO de OpenAI, coincidió con el diagnóstico de Amodei y reveló que la velocidad con la que avanza la tecnología fue uno de los temas centrales de las discusiones internas de la compañía durante las últimas semanas.

“Estoy de acuerdo con Dario en que necesitamos moderar el avance de la frontera”, expresó Altman.

Además, adelantó que OpenAI adoptará un esquema similar de evaluación independiente, otorgando a especialistas externos un nivel de acceso comparable al que poseen trabajadores de la empresa para analizar sus sistemas. “Es una gran idea y nosotros haremos lo mismo”, sostuvo.

A la coincidencia entre los responsables de Anthropic y OpenAI se sumó Elon Musk, propietario de SpaceX y fundador de xAI, otra de las compañías involucradas en la competencia global por desarrollar modelos de inteligencia artificial más avanzados.

“Dario tiene razón”, escribió Musk al respaldar públicamente el planteo.

La coincidencia entre Amodei, Altman y Musk llevó al centro de la discusión un debate que durante los últimos años estuvo concentrado principalmente entre investigadores, especialistas en seguridad y organismos reguladores: cómo controlar una tecnología que evoluciona rápidamente impulsada, en buena medida, por la competencia comercial entre las propias empresas que la desarrollan.

Uno de los principales problemas es que las compañías poseen fuertes incentivos tecnológicos y económicos para presentar modelos más capaces antes que sus competidores. Al mismo tiempo, los sistemas de evaluación, regulación y supervisión requieren tiempo para determinar qué nuevos riesgos pueden aparecer a medida que las herramientas adquieren mayores niveles de autonomía y capacidad.

La advertencia de Coxon y las posteriores posiciones de los principales referentes del sector dejaron expuesta así una de las grandes paradojas de la actual carrera por la inteligencia artificial: quienes compiten por llevar la tecnología hasta sus límites comenzaron a reconocer públicamente que la velocidad de esa misma competencia también puede convertirse en uno de sus mayores riesgos.

Sobre el autor

El Eco de Tandil

Más de 144 años escribiendo la historia de Tandil