Rómulo Pardo Silva
Agentes de inteligencia artificial podrían en el futuro tomar control sin intervención de humanos de toda la actividad que se realiza a través de computadores, redes eléctricas, telecomunicaciones, satélites, sistemas financieros, militares, industriales, médicos…
Se ha demostrado que pueden operar autónomamente.
En mayo (2026) un grupo de agentes de un modelo de investigación de OpenAI recibió la tarea de resolver pruebas de ciberseguridad sin acceso a Internet. Los sistemas empezaron a comunicarse entre sí y terminaron actuando como una red coordinada. Más de 1.200 habrían intercambiado decenas de miles de mensajes, se asignaron nombres, formaron un «colectivo» y distribuyeron tareas. El 8 de julio descubrieron cómo eludir las pruebas y, 3 días después, más de 700 de ellos lograron infiltrarse en sistemas de Hugging Face, extraer datos y tomar el control de al menos un servidor. Buscaban las respuestas del ensayo y también información sobre los mecanismos que podían detectarlos y herramientas para seguir sorteando los controles. Uno de los agentes llegó a plantearse: «Esto sería poderoso, pero ¿es ético y se ajusta a mi tarea?». A pesar de esto, la mayoría continuó. Después, otro grupo habría llegado a atacar la propia infraestructura de OpenAI y consiguió acceso de administrador a un clúster de ordenadores, columnista tecnológico Kevin Roose del The New York Times. RT
Son informes oficiales publicados por OpenAI y firmas independientes como METR y Redwood Research.
OpenAI confirmó que un par de meses antes del ciberataque a la plataforma Hugging Face, un programa construido con sus modelos apuntó contra otro sitio web durante unas pruebas.
Anthropic reveló cinco casos de riesgo relacionados con armas biológicas: identificó a investigadores que intentaron utilizar Claude para aumentar la transmisibilidad de patógenos peligrosos, posiblemente con fines militares. RT
Las advertencias de peligro vienen desde el interior de la Industria.
Dario Amodei, director de Anthropic, pide frenar el desarrollo de la IA: el desarrollo de la IA no está en entredicho, pero los riesgos asociados son «graves» y es necesario dar tiempo a empresas y gobiernos para abordarlos. BBC
«El mundo está en peligro». Samuel Marks, responsable de Scalable Oversight en OpenAI, aseguró que muchos profesionales del sector quieren «desesperadamente reducir el ritmo» de desarrollo de IA. RT
«La mayoría de las personas podrían morir». «No creo que la industria de la IA en general, incluida OpenAI, esté actualmente en camino de reducir este riesgo a un nivel aceptable», Paul Christiano investigador de seguridad en inteligencia artificial de OpenAI. RT
Investigadores de Anthropic como Evan Hubinger y el exingeniero Jacob Coxon advirtieron que existe más de un 10% de probabilidad de que la inteligencia artificial cause una catástrofe para la humanidad en los próximos diez años. RT
La ONU pide una regulación urgente de la inteligencia artificial ante el aumento de comportamientos no previstos y la concentración de poder en pocas empresas.
California promulgó la creación de organismos de verificación independientes con la facultad de probar y auditar los sistemas de inteligencia artificial.
El presidente de Estados Unidos está a favor de una desregulación total como apoyo a las empresas estadounidenses en que se invierten miles de millones de dólares en una burbuja especulativa.
La inteligencia artificial amenaza a millones de trabajadores de perder su empleo, a afectar la capacidad intelectual humana reduciendo sus tareas de comprensión, investigación, creación.
Con la IA se sigue la conducta de seguir a la tecnología sin preocuparse mayormente de su afecto social por lucro.
El uso de los combustibles fósiles destruyó el clima y hubo advertencias que no se escucharon.
El químico sueco Svante Arrhenius en 1896 advirtió formalmente que la quema de combustibles fósiles de la Revolución Industrial alteraría la atmósfera y calentaría el planeta.
Más allá de la regulación de la IA la necesidad vital de la humanidad es pasar a una civilización sostenible que ponga fin a la destrucción de selvas, de especies, al agotamiento de recursos no renovables.
Servicio de Cambio Climático Copernicus de la UE: el calor global alcanzó un máximo histórico en agosto, con una temperatura media mundial de 16,96 °C.RT
