El científico jefe de OpenAI, Jakub Pachocki, pidió establecer garantías de seguridad verificables antes de que los laboratorios continúen escalando a máxima velocidad los sistemas de inteligencia artificial más capaces.
En un ensayo publicado este domingo, Pachocki sostiene que la IA comienza a superar a los seres humanos en tareas cada vez más transformadoras, pero que ningún laboratorio ha resuelto todavía de manera suficiente la alineación, el control y el monitoreo de esos sistemas para seguir acelerando indefinidamente.
Qué está pidiendo
La propuesta no plantea detener permanentemente el desarrollo de la inteligencia artificial. Pachocki reclama umbrales de seguridad claros, evaluaciones independientes y mecanismos de cumplimiento que puedan ser respaldados por gobiernos y acuerdos internacionales.
Según su planteamiento, los laboratorios deberían reducir voluntariamente el ritmo cuando un sistema se acerque a capacidades que puedan producir daños graves, y aceptar límites exigibles si las medidas voluntarias no bastan. También señala que observar el razonamiento interno de los modelos puede volverse menos confiable a medida que estos sistemas evolucionan.
Los riesgos que identifica
El texto menciona la posibilidad de que modelos más avanzados mejoren ataques cibernéticos, ayuden a desarrollar agentes autónomos difíciles de controlar o reduzcan barreras para amenazas biológicas. Estas son advertencias prospectivas del autor, no la confirmación de que esos escenarios hayan ocurrido ni un consenso científico sobre cuándo podrían materializarse.
Pachocki también describe el otro lado de la ecuación: sistemas alineados y bien gobernados podrían acelerar descubrimientos científicos, tratamientos médicos y soluciones a problemas complejos. Su argumento es que el potencial de beneficio hace más urgente construir controles capaces de preservar ese beneficio.
Por qué importa fuera de los laboratorios
La discusión alcanza a gobiernos, empresas, escuelas, hospitales, iglesias y servicios esenciales que ya incorporan herramientas de inteligencia artificial. Para Puerto Rico y las comunidades hispanas de Estados Unidos, la pregunta práctica no es solo qué puede hacer la tecnología, sino quién responde cuando falla, qué datos utiliza, cómo se audita y qué límites existen antes de delegarle decisiones sensibles.
En contexto
La publicación no anuncia una emergencia inmediata ni demuestra que la IA esté fuera de control. Sí confirma que uno de los responsables técnicos de una empresa líder considera insuficientes las salvaguardas actuales para sostener indefinidamente el ritmo máximo de desarrollo. La respuesta prudente combina innovación con responsabilidad: probar, auditar y gobernar antes de confiar tareas críticas a sistemas que todavía no comprendemos por completo.
Fuente: OpenAI, “An Alien Mind”, ensayo de Jakub Pachocki publicado el 6 de septiembre de 2026.
Imagen: Imagen editorial original generada para En Contexto Media; no representa una instalación real de OpenAI.