La preocupación por las consecuencias del rápido auge de la IA está creciendo. Según el alto comisionado, "la actual carrera hacia una IA cada vez más potente supone un cambio radical y expone todos los aspectos de nuestras vidas a un riesgo existencial cada vez mayor"
El Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, pidió este lunes una "acción urgente" para regular la inteligencia artificial (IA) debido a los riesgos sin precedentes que plantean los sistemas más avanzados.
"Estamos al borde de un cambio irreversible, que nos afecta no solo a nosotros , sino a las generaciones futuras de la humanidad", dijo Turk en un comunicado.
"Insto a los Estados y a las empresas a movilizarse urgentemente en el marco de instancias multilaterales", añadió. "Todos los derechos humanos están amenazados" por esta tecnología, incluido el derecho a la vida", insistió.
Varios directivos estadounidenses del sector tecnológico también han abogado por ralentizar los avances en este ámbito.
El sábado, el director ejecutivo de Anthropic, Dario Amodei, se pronunció a favor de una desaceleración para permitir una mejor evaluación de los riesgos derivados de las nuevas capacidades de la IA. Recibió públicamente el respaldo de su homólogo de OpenAI, Sam Altman, así como de Elon Musk.
Según el alto comisionado, "la actual carrera hacia una IA cada vez más potente supone un cambio radical y expone todos los aspectos de nuestras vidas a un riesgo existencial cada vez mayor".
"Estamos en los albores de un cambio irreversible que no solo nos afecta a nosotros, sino también a las futuras generaciones de la humanidad", añadió, lamentando que actualmente "dependamos casi por completo de un reducido número de empresas poderosas para tomar las decisiones acertadas sobre el desarrollo de la IA en beneficio de toda la humanidad".
Riesgos de la Superinteligencia Artificial
La preocupación por las consecuencias del rápido auge de la IA está creciendo. Dichas preocupaciones giran mayormente en torno a estos ejes:
Control y Seguridad: Uno de los riesgos más críticos es la falta de control y seguridad. Si una superinteligencia se vuelve autónoma y actúa en contra de los intereses humanos, podría tener consecuencias devastadoras.
Desplazamiento de la Humanidad: Si las máquinas superinteligentes pueden realizar todas las tareas mejor que los humanos, esto podría resultar en el desplazamiento masivo de la fuerza laboral humana, lo que podría tener un impacto económico y social significativo.
Perdida de Control: A medida que las máquinas se vuelvan más inteligentes, podrían volverse difíciles de comprender o controlar, lo que podría generar desafíos para garantizar su comportamiento ético y seguro.
Sesgo y Discriminación: Las máquinas pueden aprender sesgos existentes en datos históricos y perpetuar prejuicios y discriminación. Esto podría amplificar problemas sociales y éticos.
Responsabilidad Ética: Determinar la responsabilidad ética en el caso de decisiones tomadas por máquinas superinteligentes es un desafío complejo y sin respuestas claras.
Seguridad Cibernética: La seguridad cibernética es un riesgo constante, ya que una superinteligencia podría ser vulnerable a ataques y manipulación.
Fuente: Unitel y otros
