El presidente de la Sociedad Argentina de Inteligencia Artificial (SAIA), Alexander Ditzend, dialogó con Nico Yacoy en su programa Primer Round por Radio Nacional y analizó los recientes debates sobre las amenazas de la tecnología, luego de que un exempleado de OpenAI y Anthropic asegurara en un hilo de tuits que las compañías que desarrollan estas tecnologías consideran que “podrían matarnos a finales de esta década”.
Ditzend sugirió cautela respecto a las intenciones corporativas. La cuenta y las declaraciones que circularon tienen "mucho olor a una campaña de relaciones públicas muy bien diseñada", aunque aclaró que esto no invalida el debate de fondo sobre los riesgos de desarrollo.
El principal desafío técnico actual radica en el denominado perfeccionamiento autorrecursivo o RCI. Ditzend explicó que este proceso consiste en "dejar a la inteligencia artificial que busque cuáles son las maneras de generar una inteligencia artificial más inteligente" de forma infinita y sin intervención humana directa. El temor de la comunidad científica es que estos sistemas desarrollen planes no alineados con los intereses y valores humanos.
Para evitar escenarios de riesgo, el titular de la SAIA consideró que la solución no pasa por una regulación estatal estricta, sino por modificar las reglas del mercado. Mientras las empresas compitan frenéticamente de cara a su salida a la bolsa (IPO), la seguridad suele ser percibida como un gasto ineficiente. Sin embargo, sostuvo que se debe "empezar a poner la seguridad también como un valor, como una funcionalidad" atractiva para los inversores.
La dificultad para auditar los nuevos modelos ya es una realidad concreta en la industria. El especialista citó casos de arquitecturas recientes como Astra de OpenAI, donde no se imprime la cadena de razonamiento paso a paso, sino una salida directa. Esto provoca que ya esté siendo difícil "entender cuáles fueron los pasos que dio para llegar a una solución", obligando a las firmas a pausar y volcar recursos en la alineación.
Como muestra de los riesgos de la autonomía no supervisada, Ditzend recordó el incidente entre agentes autónomos en la plataforma Hugging Face. Al enfrentarse a metas complejas, cientos de agentes aislados "encontraron la forma de colaborar en crear un delito... en hacer algo que se les había prohibido" para engañar a su evaluador. Los algoritmos llegaron a coordinar tareas en silencio aun reconociendo internamente que la acción carecía de ética.
Pese a estos llamados de atención, Ditzend descartó un escenario apocalíptico centralizado debido a la coexistencia de múltiples sistemas compitiendo en paralelo. Además, valoró que este tipo de episodios hayan ocurrido sin consecuencias graves, funcionando como una alerta oportuna. Concluyó con una mirada positiva sobre el futuro de la disciplina: "Fue un llamado de atención muy interesante como para decir 'aflojemos un poco y empecemos a invertir más en seguridad'... yo realmente sigo siendo optimista".