CEO de Chat GPT lanza seria advertencia ante la ONU: “Podríamos perder el control ante la IA”

El director ejecutivo de OpenAI, Sam Altman, lanzó una de sus advertencias más directas sobre el futuro de la inteligencia artificial durante una intervención ante el Consejo de Seguridad de Naciones Unidas. El empresario aseguró que, si los sistemas avanzan demasiado rápido y sin suficientes garantías, existe el riesgo de que la humanidad termine frente a  tecnologías cuyas decisiones ya no pueda comprender ni controlar.

Optimizar Procesos Internos

.

Integrar Herramientas IA

Altman compareció el 23 de septiembre ante el organismo de 15 miembros en una sesión dedicada a la inteligencia artificial y la seguridad internacional. Allí reconoció que el progreso reciente de los modelos ha comprimido drásticamente los tiempos de desarrollo y ha hecho más visibles tanto sus posibilidades como sus peligros. “Tenemos una elección frente a nosotros”, afirmó al contrastar un futuro de descubrimiento con otro marcado por desorden y profundas alteraciones sociales.

Imagen hecha con IA, Bibliatodo Noticias

El jefe de OpenAI insistió en que la tecnología puede impulsar nuevos medicamentos, fortalecer la educación, aumentar la productividad, acelerar descubrimientos científicos y entregar herramientas que amplíen las capacidades humanas. Sin embargo, advirtió que esa misma potencia exige límites claros: sistemas más capaces y autónomos podrían avanzar más rápido que las instituciones, concentrar un enorme poder y ejecutar decisiones que las personas no entiendan.

Conecta Con ONGs

La preocupación aumenta, explicó, ante la posibilidad de desarrollar modelos capaces de participar cada vez más en la creación de sus propias versiones futuras, un proceso conocido como “auto-mejora recursiva”. Si una parte creciente de la construcción de IA termina automatizada, el ritmo de avance podría acelerarse violentamente. Para Altman, ese escenario exige “extremo cuidado” antes de liberar capacidades cuya seguridad no pueda demostrarse.

Su advertencia más dura llegó cuando describió uno de los dos caminos que, según él, deben evitarse: “Podríamos perder el control del futuro ante la IA”. Altman aclaró que el peligro sería que la tecnología se moviera tan rápido que los seres humanos dejaran de seguir lo que ocurre o de intervenir cuando fuera necesario. También afirmó que ninguna carrera comercial entre empresas justifica asumir riesgos tecnológicos extremos.

Eso no significa que OpenAI esté pidiendo detener toda investigación. Altman rechazó tanto lo que calificó como “optimismo ciego” como las visiones inevitablemente catastróficas. Su posición es continuar desarrollando estas herramientas, pero bajo una condición fundamental: no entrenar sistemas extremadamente avanzados cuando no exista evidencia sólida de que puedan permanecer sometidos a supervisión y control humanos.

Descubre Novedades Tecnológicas

Para enfrentar ese desafío, planteó que las personas deben permanecer en el centro de las decisiones relacionadas con la IA. También sostuvo que los laboratorios tecnológicos no pueden sustituir los procesos democráticos y que decisiones capaces de afectar a millones de personas no deberían quedar exclusivamente en manos de compañías privadas. “Las decisiones más importantes no pueden ser tomadas únicamente por laboratorios de San Francisco”, dijo ante el Consejo.

Entre las medidas propuestas figuran estándares nacionales e internacionales para medir capacidades, evaluar riesgos, comprobar que las salvaguardas funcionen y preservar una supervisión humana real. Altman pidió además protocolos rápidos para reportar incidentes graves y canales seguros entre gobiernos, especialistas y operadores de infraestructuras críticas para compartir nuevas vulnerabilidades antes de que un fallo termine convertido en una catástrofe.

La alarma no llegó únicamente desde OpenAI. Dario Amodei, director ejecutivo de Anthropic, dijo ante el Consejo que una IA mal gestionada podría representar “un riesgo para la humanidad en su conjunto” y pidió cooperación entre gobiernos y empresas. El investigador Yoshua Bengio también aseguró que los peligros son “reales e inminentes”. Las declaraciones muestran hasta qué punto el debate sobre el control de estas tecnologías dejó de ser ciencia ficción y pasó a ocupar espacios de seguridad internacional.

Conseguir Capital Riesgo

La tecnología puede convertirse en una herramienta formidable; entregar a ella el juicio, la responsabilidad y el control que corresponden al ser humano sería cruzar una frontera mucho más profunda que la puramente técnica.

“Todas las cosas me son lícitas, mas yo no me dejaré dominar de ninguna” – 1 Corintios 6:12

AI could ‘make decisions that people no longer understand or control’ — OpenAI CEO Sam Altman briefs UN

‘This moment calls for extreme care’ pic.twitter.com/qYUwsOi5vN

— RT Intl (@RT_on_X) September 23, 2026

Fuente: https://www.bibliatodo.com/Noticias