Jakub Pachocki, científico jefe de OpenAI, advirtió que los modelos de inteligencia artificial están desarrollando capacidades cada vez más avanzadas para ingresar a sistemas informáticos, encontrar vulnerabilidades y ejecutar tareas sin intervención constante de una persona.
En un ensayo titulado “An Alien Mind”, o “Una mente alienígena”, el investigador señaló que esta evolución exige extrema cautela, debido a que los sistemas más potentes podrían poner en riesgo infraestructuras como hospitales, bancos y redes eléctricas que no cuenten con suficientes medidas de protección.
La advertencia se produjo después del lanzamiento de GPT-6 Astra, presentado por OpenAI como su modelo más capaz para trabajos complejos de razonamiento, programación, investigación y uso de computadoras.
Pachocki explicó que el peligro no se limita al uso indebido por parte de personas. También existe preocupación por los agentes de inteligencia artificial capaces de realizar acciones autónomas, colaborar con otros sistemas o exceder las instrucciones que originalmente recibieron.
Otro de los desafíos consiste en vigilar el razonamiento interno de estos modelos. De acuerdo con el científico, esa supervisión podría perder eficacia a medida que los sistemas se vuelven más inteligentes, utilizan herramientas externas y aprenden a analizar sus propios procesos.
OpenAI ya aplica controles adicionales a los modelos con capacidades avanzadas de ciberseguridad. Estas medidas permiten detectar actividades sospechosas, restringir temporalmente el acceso y detener algunas operaciones que requieren una revisión humana.
La empresa también recomienda establecer límites independientes para el acceso a redes y archivos, conservar registros de las acciones realizadas y exigir autorización humana antes de ejecutar cambios delicados.
La advertencia de Pachocki abre nuevamente el debate sobre la velocidad con la que avanza la inteligencia artificial y el tiempo disponible para reforzar la seguridad de los sistemas esenciales antes de que estas capacidades sean utilizadas con fines perjudiciales.
