La posibilidad de que la inteligencia artificial llegue a provocar la extinción humana dejó de ser una advertencia planteada únicamente desde fuera de la industria. Investigadores que han trabajado en compañías como Anthropic y OpenAI reconocen que consideran real el riesgo de que sistemas avanzados puedan acabar con la humanidad antes de que termine la década.
La alarma fue retomada por la cadena Al Jazeera en un reportaje que también cuestiona si este temor responde únicamente a un peligro real o si, al mismo tiempo, puede convertirse en una herramienta de negocio y poder para las propias empresas que desarrollan esta tecnología.
El debate tomó fuerza después de que investigadores vinculados a algunas de las compañías más importantes del sector reconocieran públicamente que consideran posible un escenario en el que sistemas avanzados de inteligencia artificial representen una amenaza para toda la humanidad, mientras esas mismas empresas continúan invirtiendo miles de millones de dólares en el desarrollo de modelos cada vez más poderosos.
¿Qué investigadores advierten sobre la extinción humana por IA?
Uno de los casos expuestos es el de Jacob Coxon, exinvestigador de Anthropic y OpenAI especializado en el entrenamiento de modelos de inteligencia artificial, quien abandonó Anthropic y posteriormente hizo pública su preocupación por los riesgos asociados al desarrollo acelerado de estos sistemas.
“Las personas que están construyendo IA creen sinceramente que podría matarnos a todos antes de que termine la década. Esto no es una estrategia de marketing…”, explicó Coxon en una publicación retomada por Al Jazeera.
La advertencia fue respaldada por Evan Hubinger, investigador y líder de un equipo de seguridad de inteligencia artificial en Anthropic, especializado en alineación y pruebas de comportamiento de modelos avanzados, quien sostuvo de forma directa que dentro de la industria existe una preocupación genuina sobre las consecuencias que podría alcanzar esta tecnología.
“Jacob tiene razón. Realmente creemos, sinceramente, que la IA podría matar a todos los humanos”, señaló Hubinger.
Sin embargo, el reportaje contrapone esas advertencias con la postura de Timnit Gebru, científica computacional, especialista en ética de la inteligencia artificial, fundadora y directora ejecutiva del DAIR Institute y exresponsable del equipo de IA Ética de Google, quien cuestiona que el discurso sobre una eventual catástrofe mundial esté desplazando problemas que ya existen y pueden medirse actualmente.
“Ya sea que se hable de catástrofe o de utopía, son dos caras de la misma moneda. Es el mismo mensaje. Te está diciendo que estás creando máquinas extremadamente poderosas, capaces de alterar la civilización. Eso le habla a los inversionistas”, afirmó Gebru.
Ignoran daños que ya existen
Timnit Gebru, especialista en ética de la inteligencia artificial, fundadora del DAIR Institute y exresponsable del equipo de IA Ética de Google, advierte que concentrar la discusión en una hipotética desaparición de la humanidad puede desviar la atención de daños que, asegura, ya están ocurriendo alrededor de estas herramientas.
“Hay adolescentes que están muriendo después de ser incitados a matarse al interactuar con estos chatbots. Están robando el trabajo de otras personas y haciéndolo pasar como propio”, afirmó la especialista.
Además, cuestiona el impacto económico del discurso alrededor de la inteligencia artificial. Tanto presentarla como una tecnología capaz de transformar positivamente al mundo como describirla como una amenaza existencial coloca a las empresas desarrolladoras en el centro de una herramienta considerada extraordinariamente poderosa y, por lo tanto, más atractiva para los inversionistas.
El debate también incluye a David Sacks, empresario e inversionista tecnológico, quien cuestionó las advertencias formuladas por Jacob Coxon y sostuvo que el exinvestigador no había presentado elementos suficientes para demostrar que el escenario planteado fuera inevitable.
“No reveló realmente nada perjudicial para nuestra empresa. Pero, francamente, lo único que tiene son impresiones”, afirmó Sacks.
Entre advertencias y miles de millones
Las alertas sobre los riesgos de la inteligencia artificial conviven con una realidad difícil de ignorar: las mismas compañías que advierten sobre posibles consecuencias extremas continúan desarrollando, financiando y compitiendo por liderar una industria que mueve miles de millones de dólares.
El reportaje recupera una declaración realizada años atrás por Sam Altman, actual director ejecutivo de OpenAI y entonces presidente de Y Combinator, en la que ya vinculaba la posibilidad de consecuencias extremas derivadas de esta tecnología con la creación de grandes negocios.
“Creo que la IA probablemente, muy probablemente, de alguna manera llevará al fin del mundo, pero mientras tanto se crearán grandes empresas con aprendizaje automático serio”, declaró Altman.
Es precisamente esa contradicción la que atraviesa el reportaje: compañías e investigadores que advierten sobre sistemas potencialmente capaces de representar una amenaza para la humanidad son, al mismo tiempo, quienes continúan desarrollándolos, financiándolos y compitiendo por colocarse a la cabeza de una industria cuyo valor depende también de las expectativas sobre hasta dónde puede llegar esta tecnología.
¿Por qué el debate sobre la IA también involucra poder y regulación?
El cuestionamiento se extiende además al terreno político. Si las mismas compañías que desarrollan estos sistemas advierten que son extraordinariamente peligrosos y, al mismo tiempo, buscan ocupar un lugar central en la definición de las reglas que determinarán cómo deberán controlarse, el debate deja de ser exclusivamente tecnológico para involucrar también dinero, regulación e influencia.