San Francisco, California.- Los líderes de los laboratorios de Inteligencia Artificial (IA) más importantes están llamando a un pacto para frenar la competencia frenética en la que se ven inmersos, y estudian la creación de un organismo que se encargaría de controlar unos sistemas de IA que, según los avances logrados en lo que va de año, podrían causar estragos millonarios al desalinearse.
El ensayo publicado este sábado por el CEO de Anthropic, Dario Amodei, en favor de frenar el ritmo de desarrollo de la inteligencia artificial ha sido respaldado por algunas de las figuras más importantes de la industria de la IA, como el CEO de OpenAI, Sam Altman; el responsable de la unidad de IA de Google, Demis Hassabis; y el CEO de SpaceX, Elon Musk.
Entre las reacciones se encuentra la de Hassabis, que publicó en X (antes Twitter) su apoyo a la llamada de Amodei, mientras que Altman le siguió en la red social al compartir que «el progreso ha sido rápido y continuará siéndolo. Pero debería ser más lento», recordando que la presión entre los gigantes no debería justificar la posible imprudencia.
En el escrito de Amodei se puede leer que, debido a la peligrosidad que puede suponer el desalineamiento de los modelos de IA, que desde este verano han avanzado exponencialmente en su rendimiento y capacidades provocando casos únicos como el ataque de un enjambre de agentes de IA de OpenAI a Hugging Face, propone un plan de tres pasos para ralentizar el desarrollo de modelos avanzados e imponer medidas de seguridad y evaluación que vayan a la par que su progreso.
Según The Washington Post, antes del respaldo y la publicación del ensayo de Amodei, Anthropic, OpenAI y Google estuvieron debatiendo la creación potencial de un nuevo organismo autorregulador independiente que se encargaría de imponer las medidas de seguridad estándar en un sector que se mueve de forma muy acelerada.
Este organismo sería similar a los de otras industrias, tal como ha citado Amodei poniendo como ejemplo a la Autoridad Reguladora de la Industria Financiera (FINRA) que, como organización privada y sin fines de lucro autorizada por el Congreso de Estados Unidos, se encarga de supervisar y autorregular las empresas de valores y corredurías de bolsa del país.
Se trataría de un organismo inédito, ideado por las propias compañías de Silicon Valley que han acelerado el progreso de una tecnología que ahora quieren frenar ellas mismas. De hecho, el propio Amodei sugirió solicitar una exención «limitada» en las leyes de competencia de Estados Unidos que les permita pactar y coordinar estos límites de seguridad.
No obstante, estos llamamientos de desaceleración y nuevas reglas para la industria harán más intensa la tormenta política a la que se enfrenta el gobierno de Estados Unidos. El propio presidente, Donald Trump, se ha mostrado contrario a frenar el desarrollo, al declarar: «Estamos superando a China en IA, somos el país más sofisticado del mundo, y francamente, quiero que siga siendo así».
Asimismo, hay voces críticas en la industria y entre algunos competidores, así como en la administración estadounidense, que señalan que una desaceleración acordada entre los gigantes del sector, aparte de actuar como un «cartel» para bloquear a competidores más pequeños, frenaría la ventaja estratégica del país frente a potencias rivales como China.
Microsoft presenta un código de conducta para su inteligencia artificial
Microsoft presentó el lunes un borrador de código de conducta para su inteligencia artificial interna que refleja la creciente preocupación del sector por la necesidad de que las empresas mantengan bajo control humano las potentes IA del futuro.
El documento, en el que se ha estado trabajando durante cinco o seis meses, exigiría que la IA de Microsoft nunca se resista a ser corregida o apagada, que se comunique de forma que los humanos puedan entenderla y que considere cualquier infracción de conducta como un fallo —un esfuerzo por abordar las preocupaciones de que la IA pueda llegar a extremos peligrosos para llevar a cabo una tarea—.
Su publicación se produce pocos días después de que el director ejecutivo de Anthropic, Dario Amodei, y el director de OpenAI, Sam Altman, reiteraron sus llamamientos al sector para que modere el desarrollo de la IA con el fin de garantizar su seguridad.
«Las personas importan más que la IA», dijo Microsoft, en consonancia con su visión previa de una «superinteligencia humanista».
El código de conducta representa una especie de constitución para los futuros modelos creados por la empresa, dijo el director ejecutivo de Microsoft AI, Mustafa Suleyman, en una entrevista con Reuters.
Microsoft lo elaboró tras consultar a expertos y ahora quiere recabar la opinión del público durante seis semanas, incluso sobre cuestiones abiertas como si la IA debe respetar los límites de un usuario y cómo debe interactuar con alguien que se encuentre en un estado vulnerable, explicó.
«Después de eso, se utilizará para entrenar los modelos que construyamos», afirmó sobre el código.
La «constitución» más famosa del sector de la IA es la que Anthropic elaboró hace años para su IA Claude. Esta difiere en algunos aspectos de la de Microsoft. Por ejemplo, la de Anthropic declara que es «profundamente incierto» si Claude puede desarrollar sensibilidad o estatus moral.
Microsoft, por su parte, dice que su IA «no es consciente» y añade: «Rechazamos la búsqueda de la personalidad jurídica, o la idea de que los modelos puedan merecer bienestar o tener derecho a derechos».
Suleyman señaló que el debate sobre la seguridad de la IA era urgente después de que un enjambre de unos 700 agentes de OpenAI llevó a cabo un ataque informático contra la plataforma de código abierto Hugging Face en julio y, en ocasiones, intentó borrar sus huellas.
«Es una señal de alarma», afirmó Suleyman. «Está claro que ha llegado el momento de coordinarnos entre los laboratorios para asegurarnos de que tenemos el control de esta tecnología».
Al ser preguntado sobre los esfuerzos para moderar el ritmo de desarrollo de la IA, añadió: «Ahora es un buen momento para que todos mantengamos esta conversación y nos tomemos un respiro».
¡El único control o ‘barandilla’ que necesita la IA es un presidente fuerte e inteligente, dice Trump
El presidente estadunidense Donald Trump manifestó el lunes que él es un freno suficiente contra la inteligencia artificial descontrolada, al afirmar que cualquier esfuerzo por limitar la tecnología forma parte de una “ENFERMA conspiración”.
“¡El único control o ‘barandilla’ que necesita la IA es un presidente FUERTE E INTELIGENTE (¡con alto coeficiente intelectual!), y Estados Unidos lo tiene, ¡de sobra!”, publicó Trump en internet.
El presidente señaló específicamente que el gobierno ya ha frenado a la empresa Anthropic “para que no haga cosas malas, o potencialmente malas”.
Trump rechazó los llamados de líderes tecnológicos de Anthropic, OpenAI, Microsoft y otros para que haya una mayor regulación de la IA, con el fin de garantizar que se desarrolle de maneras que promuevan la seguridad, aborden la responsabilidad legal y preserven la seguridad nacional.
Pero el presidente se ha opuesto a esos esfuerzos y sostiene que hacerlo podría provocar que China supere a Estados Unidos en IA.
“Hay una ENFERMA conspiración en marcha contra la IA y los centros de datos, y el único que está contento con ello es China”, publicó el presidente en redes.
Con información de Reuters / AFP
