Dos físicos analizaron el grado de distinción entre el bien y el mal que realiza la Inteligencia Artificial

Un chatbot de IA responde a veces cosas que no son ciertas y que no debería decir: que la llegada a la Luna fue un montaje, que el covid no existe o que los hombres son más listos que las mujeres. Ahora se ve cada vez menos. Pero no porque ya no lo hagan, sino porque sus creadores han sepultado esos comportamientos impropios debajo de una enorme capa de filtros.

¿qué querés saber?

   Dame un resumen

Así, los chatbots parecen tener ahora un mejor comportamiento moral, que les impide decir cosas falas. Pero no. Sus respuestas buenas y malas no son morales. “La IA en sí no distingue el bien del mal. Pero nosotros, como sociedad, no queremos respuestas malas”, dice Neil Johnson, físico de la Universidad George Washington (EE.UU.). “Por eso las empresas de IA intentan corregirlo empujando los conceptos indeseables a un rincón lejano de ese espacio abstracto de conceptos que la IA tiene dentro. Pero siguen ahí”, añade.

Sería como si las empresas de IA domesticaran perros salvajes y dijeran: “Tranquilo, que no muerde”. Pero un día va y muerde. Porque el dueño está demasiado convencido de que controlan a sus perros y los entienden. “Y no es así, simplemente porque no saben cómo funciona el cerebro de un perro. Ni ellos ni nadie. Con la IA generativa pasa lo mismo”, dice Johnson.