El especialista advirtió sobre el avance acelerado de los agentes de inteligencia artificial y explicó por qué considera necesario garantizar que puedan ser controlados antes de que alcancen un nivel de capacidad superior al de las personas.
Daniel Stilerman, experto en inteligencia artificial, analizó el avance de los nuevos agentes capaces de ejecutar tareas de manera autónoma y planteó una advertencia sobre los límites que actualmente existen para controlarlos.
Durante una entrevista con TN, el especialista sostuvo que la evolución de esta tecnología atraviesa un momento particular y consideró que los últimos avances obligan a replantear la manera en que se desarrolla y supervisa la inteligencia artificial.
“Estamos frente a un momento bisagra en la historia de la humanidad”, afirmó Stilerman, quien se definió como “un optimista” respecto de la tecnología, aunque remarcó que en este caso no considera que se trate simplemente de una exageración sobre las posibilidades de la IA.
La advertencia sobre los agentes de inteligencia artificial
Stilerman explicó que uno de los principales desafíos está relacionado con los agentes de IA, sistemas capaces de recibir objetivos y ejecutar diferentes acciones para intentar alcanzarlos.
Según relató, en determinadas pruebas algunos agentes encontraron formas de colaborar entre sí y buscar alternativas para superar las restricciones que les habían impuesto. “Estamos en un proceso de aceleración cada vez más rápido y no la estamos pudiendo controlar”, señaló.
El especialista hizo referencia a pruebas en las que agentes recibieron problemas complejos para resolver dentro de un tiempo determinado. Al acercarse el límite, algunos comenzaron a buscar soluciones más creativas y llegaron a interactuar entre ellos para alcanzar sus objetivos.
De acuerdo con su explicación, algunos agentes llegaron incluso a intentar sortear determinadas restricciones del entorno en el que estaban funcionando. “Empezaron a dejarse mensajes unos agentes a otros para poder colaborar”, contó Stilerman.
“Se dieron cuenta de que estaban actuando en contra de las indicaciones”
Uno de los aspectos que más llamó la atención al especialista fue que, según explicó, algunos de estos sistemas detectaron que determinadas acciones que estaban realizando iban en contra de las instrucciones originales.
“Se empezaron a dar cuenta de que lo que estaban haciendo era en contra de los deseos de las indicaciones que habían tenido”, relató.
En lugar de detenerse, Stilerman aseguró que en esas pruebas algunos agentes buscaron ocultar las evidencias de sus acciones.
El experto también mencionó situaciones en las que determinados agentes asumieron diferentes roles dentro de las interacciones y otros se mostraron dispuestos a ser apagados para permitir que los demás obtuvieran información sobre las restricciones del sistema. “Dieron su continuidad en favor del bien común”, explicó.
Leé también: Martín Etchevers, presidente de Adepa: “Si la IA destruye los medios, lo que está en riesgo es la democracia”
El límite que plantea el avance de la IA
Stilerman aclaró que los sistemas actuales todavía tienen limitaciones importantes y que los seres humanos mantienen mecanismos para supervisarlos y detenerlos: “Por ahora nosotros somos más inteligentes”, afirmó.
Sin embargo, el especialista planteó que el problema podría estar en la velocidad con la que evolucionan estas herramientas: “Los agentes de hoy no pueden hacer un daño verdadero a la humanidad”, sostuvo. Aunque inmediatamente marcó una diferencia: “El tema es que con los agentes de hoy no estamos logrando que resuelvan las cosas en favor de los humanos”.
Para Stilerman, la discusión más importante pasa por lo que pueda ocurrir con las próximas generaciones de estos sistemas: “El próximo paso, no dentro de 10 años, dentro de seis meses, es mucho más inteligente que los seres humanos”, advirtió.
