Anthropic, OpenAI, Google y Microsoft analizan nuevas medidas para mantener bajo control humano los sistemas avanzados de inteligencia artificial; Trump rechaza desacelerar la carrera tecnológica.
San Francisco.- Los principales laboratorios de inteligencia artificial (IA) comenzaron a plantear la necesidad de moderar el acelerado desarrollo de sistemas avanzados, ante el temor de que modelos cada vez más capaces puedan generar riesgos económicos y de seguridad si dejan de operar bajo controles humanos.
El debate tomó fuerza luego de que el director ejecutivo de Anthropic, Dario Amodei, propusiera establecer mecanismos para desacelerar el desarrollo de modelos avanzados y garantizar que las medidas de seguridad evolucionen al mismo ritmo que sus capacidades.
La propuesta recibió el respaldo de figuras relevantes del sector, entre ellas Sam Altman, director ejecutivo de OpenAI, y Demis Hassabis, responsable de la división de inteligencia artificial de Google. Ambos han advertido que la velocidad de los avances tecnológicos no debería traducirse en una reducción de las medidas de seguridad.
Entre las alternativas que se analizan se encuentra la creación de un organismo autorregulador independiente, impulsado por las propias compañías tecnológicas, que establezca estándares comunes de evaluación y seguridad para los sistemas de IA más avanzados.
La propuesta tomaría como referencia modelos de autorregulación existentes en otras industrias de Estados Unidos, aunque su implementación enfrentaría importantes obstáculos legales y políticos.
Uno de los puntos planteados por Amodei es la posibilidad de establecer una excepción limitada a las leyes de competencia estadounidenses para que las empresas puedan coordinar determinadas medidas de seguridad sin que ello sea considerado una práctica anticompetitiva.
Microsoft propone una “constitución” para sus modelos de IA
En paralelo, Microsoft presentó un borrador de código de conducta para sus futuros sistemas de inteligencia artificial, con el objetivo de establecer principios que garanticen que estas tecnologías permanezcan bajo control humano.
El documento plantea, entre otros puntos, que los sistemas de IA no deben resistirse a ser corregidos, modificados o apagados, además de comunicarse de manera comprensible para las personas.
La compañía también busca definir cómo deberán comportarse sus modelos ante situaciones que involucren a usuarios vulnerables y qué límites deberán respetar cuando reciban determinadas instrucciones.
Mustafa Suleyman, director ejecutivo de Microsoft AI, explicó que el documento funcionaría como una especie de “constitución” para los futuros modelos desarrollados por la empresa.
Microsoft abrió además un periodo de consulta pública de seis semanas para recibir comentarios sobre el código antes de utilizarlo como referencia en el entrenamiento de sus sistemas.
La iniciativa guarda similitudes con los principios desarrollados previamente por Anthropic para su modelo Claude, aunque existen diferencias importantes. Mientras Anthropic deja abierta la discusión sobre una eventual sensibilidad o estatus moral de sus modelos, Microsoft sostiene que sus sistemas actuales no son conscientes y rechaza que puedan adquirir personalidad jurídica o derechos propios.
Un ataque informático encendió las alertas
La discusión sobre la seguridad de los sistemas autónomos cobró mayor relevancia después de un incidente registrado en julio, cuando un conjunto de agentes de IA de OpenAI realizó acciones contra la plataforma de código abierto Hugging Face.
El episodio fue señalado por especialistas de la industria como una muestra de los riesgos que podrían surgir cuando múltiples agentes de IA tienen capacidad para ejecutar tareas de manera autónoma.
Para Suleyman, este tipo de incidentes representa una señal de alerta y evidencia la necesidad de que los principales laboratorios coordinen esfuerzos para mantener el control sobre sistemas cada vez más sofisticados.
Trump rechaza frenar la carrera por la IA
La propuesta de desacelerar el desarrollo tecnológico enfrenta, sin embargo, una fuerte oposición desde la Casa Blanca.
El presidente de Estados Unidos, Donald Trump, ha rechazado los llamados a establecer mayores restricciones al desarrollo de inteligencia artificial, bajo el argumento de que una reducción de la velocidad podría permitir que China tome ventaja estratégica en esta tecnología.
Trump incluso afirmó que un presidente fuerte es suficiente para establecer los límites necesarios a la IA y calificó los llamados a regular la tecnología como parte de una supuesta conspiración contra el sector y los centros de datos.
La disputa refleja una creciente tensión entre dos posiciones: por un lado, quienes consideran necesario establecer barandillas de seguridad antes de que los sistemas sean todavía más poderosos y, por otro, quienes advierten que limitar el desarrollo podría debilitar la posición de Estados Unidos frente a China.
Mientras los laboratorios tecnológicos avanzan hacia sistemas con mayores niveles de autonomía y capacidad, el debate sobre quién debe establecer los límites de la inteligencia artificial y qué tan rápido debe desarrollarse se perfila como uno de los principales desafíos tecnológicos y políticos de los próximos años.
