ONU pide regular la IA ante riesgos sin precedentes

El Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, pidió este 14 de septiembre de 2026 a gobiernos y empresas de inteligencia artificial adoptar acciones urgentes para enfrentar los riesgos que plantea el desarrollo de sistemas cada vez más avanzados.

Türk advirtió que la actual competencia por desarrollar sistemas de IA más potentes puede generar riesgos para todos los derechos humanos, incluido el derecho a la vida, y llamó a abordar el problema mediante mecanismos multilaterales.

“Estamos al borde de un cambio irreversible, que nos afecta no solo a nosotros, sino a las generaciones futuras de la humanidad”, señaló el funcionario, quien también cuestionó que un número reducido de empresas concentre decisiones clave sobre el desarrollo de esta tecnología.

ONU alerta por carrera hacia una IA más avanzada

El llamado de Türk ocurre mientras aumenta el debate internacional sobre los riesgos asociados con la llamada IA de frontera, término utilizado para referirse a los sistemas más avanzados y capaces.

El funcionario de Naciones Unidas sostuvo que la carrera por desarrollar modelos cada vez más potentes representa un cambio profundo y puede exponer distintos ámbitos de la vida humana a riesgos de gran escala.

La preocupación no se limita a organismos internacionales. En los últimos días, algunos de los principales directivos de la industria tecnológica también han planteado la necesidad de reducir el ritmo de desarrollo para fortalecer las medidas de seguridad.

Dario Amodei, director ejecutivo de Anthropic, pidió que las empresas de IA reduzcan temporalmente la velocidad con la que aumentan las capacidades de sus modelos y propuso mecanismos como evaluaciones independientes de seguridad y mayor cooperación internacional.

La propuesta recibió respaldo público de Sam Altman, director ejecutivo de OpenAI, y de Elon Musk, propietario de xAI.

¿Qué riesgos plantea la inteligencia artificial?

La discusión abarca distintos ámbitos, desde la privacidad y la desinformación hasta la ciberseguridad, la vigilancia y el uso autónomo de sistemas de IA.

El propio debate dentro de la industria ha aumentado después de incidentes relacionados con modelos capaces de realizar actividades potencialmente dañinas, además de advertencias de investigadores sobre los riesgos que podrían surgir conforme los sistemas tengan mayor autonomía.

Para la ONU, el problema también está relacionado con la concentración de poder tecnológico. Türk señaló que actualmente existe una fuerte dependencia de un grupo reducido de compañías para tomar decisiones sobre cómo se desarrolla y utiliza la IA.

La Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos (ACNUDH) ha advertido anteriormente que la inteligencia artificial puede afectar derechos relacionados con la privacidad, la libertad de expresión, la igualdad y el acceso a la información.

Países ya preparan regulaciones para la IA

El llamado de Naciones Unidas llega cuando distintos gobiernos han comenzado a establecer marcos legales para regular el desarrollo y uso de la inteligencia artificial.

Uno de los ejemplos más avanzados es la Unión Europea, que puso en marcha el AI Act, un marco regulatorio basado en distintos niveles de riesgo para los sistemas de inteligencia artificial.

La propia oficina de derechos humanos de la ONU ha señalado que la legislación europea tiene influencia más allá del territorio de la Unión Europea y que algunos gobiernos están tomando sus disposiciones como referencia para desarrollar sus propios marcos de regulación.

En Estados Unidos, el debate también se ha intensificado. Legisladores de ambos partidos han planteado nuevas medidas de supervisión después de recientes advertencias sobre los riesgos de los sistemas avanzados.

La discusión incluye propuestas para establecer evaluaciones independientes, supervisión gubernamental y estándares de seguridad para los modelos más avanzados.

Empresas tecnológicas también piden mayor control

La discusión sobre la regulación ocurre incluso dentro de las propias compañías que desarrollan estos sistemas.

Amodei planteó un esquema basado en evaluaciones independientes de seguridad, coordinación entre empresas de IA de frontera y cooperación internacional. Su propuesta no busca detener el desarrollo tecnológico, sino establecer mecanismos que permitan identificar riesgos antes de desplegar modelos cada vez más capaces.

Por su parte, Microsoft presentó este lunes un proyecto de código de conducta para garantizar que sus sistemas de IA permanezcan bajo control humano. Entre los principios planteados están que los sistemas acepten correcciones, puedan ser apagados y comuniquen de manera comprensible sus acciones.

Mientras la industria discute qué límites debería tener el desarrollo de la IA, la ONU busca que los derechos humanos sean un elemento central de las decisiones regulatorias.

Para Volker Türk, el desafío no consiste únicamente en determinar qué pueden hacer los sistemas de inteligencia artificial, sino en establecer quién decide cómo se desarrollan, bajo qué reglas operan y qué mecanismos existen para responsabilizar a quienes los utilizan.

El llamado de Naciones Unidas se suma así a una discusión que ya involucra a gobiernos, organismos internacionales y empresas tecnológicas: cómo aprovechar las capacidades de la inteligencia artificial sin dejar que su desarrollo avance más rápido que los mecanismos destinados a garantizar la seguridad y los derechos humanos.