CanalCuriosidades
Investigadores del Instituto Tecnológico de Massachusetts (MIT), el Existential Risk Observatory y el Future of Life Institute, en Estados Unidos, examinaron 3.184 documentos relacionados con el futuro de la IA. De ellos, 58 describían algún riesgo existencial relativo al desarrollo de esta tecnología.
Los autores extrajeron 95 escenarios y los agruparon según los pasos que podrían conducir a un desenlace catastrófico para la humanidad. El estudio se presenta junto a una base de datos pública en el sitio Aixrisks.com.
Una IA cada vez más poderosa y una humanidad "zombi"
Las ocho familias de eventos se dividen en tres bloques. El primero reúne cuatro supuestos en los que la influencia pasa de las personas a la IA. En la toma de control unilateral, una inteligencia artificial con objetivos desalineados o ajenos al bien común logra una ventaja decisiva y acumula poder hasta que ya no es posible detenerla. La revisión recoge 41 escenarios de este tipo, la cifra más alta.
En la toma de control dispersa no hay una sola máquina que concentre el poder. Muchos sistemas, desplegados en la economía, las infraestructuras o las instituciones, acumularían influencia por separado. Aunque cada uno persiguiera objetivos limitados, el efecto conjunto debilitaría la supervisión humana. La toma de control coordinada suma cooperación para una mayor influencia: varias IA compartirían recursos o sincronizarían acciones, de acuerdo a una nota de prensa.
La cuarta posibilidad es la transferencia incremental de autoridad. Las personas delegan decisiones en sistemas automatizados por su rapidez o eficacia, no porque estos pretendan conquistar el poder. Pero la dependencia puede erosionar los conocimientos humanos y hacer inviable recuperar el control. La sociedad seguiría funcionando, aunque sus habitantes ya no pudieran orientar sus decisiones fundamentales sin las máquinas.
Concentración del poder y pérdida de valor del trabajo humano
El segundo bloque reúne dos escenarios de concentración del poder en una minoría humana. En el totalitarismo afianzado, un gobierno, una empresa o una coalición utilizarían sistemas de vigilancia, persuasión y represión para blindar su dominio y neutralizar a la oposición. La IA serviría para perpetuar el control político.
La estratificación económica describe un proceso menos deliberado. Si la IA y la robótica sustituyen gran parte del trabajo, quienes controlen los sistemas y los recursos productivos podrían acumular riqueza e influencia. Al perder valor económico el trabajo de amplios sectores, también menguaría su capacidad para exigir participación o redistribución. El resultado extremo sería una estructura de poder permanente.
El tercer bloque aborda la capacidad destructiva que la IA podría poner al alcance de actores humanos. La "invención catastrófica" contempla que estas herramientas aceleren la investigación o faciliten el desarrollo de una tecnología capaz de causar daños globales irreversibles. El estudio menciona como ejemplos hipotéticos agentes biológicos peligrosos o tecnologías de fabricación con potencial armamentístico. El riesgo crecería si la IA abarata su desarrollo, amplía el acceso o permite producirlos a una escala inédita.
La última familia es la guerra automatizada. Potencias rivales podrían desplegar arsenales controlados parcialmente por IA y delegar decisiones cada vez más rápidas. Un error, una falsa alarma o una respuesta automática podrían desencadenar una escalada que los responsables políticos no lograrían frenar. En el peor escenario, el conflicto alcanzaría una magnitud de la cual la humanidad no podría recuperarse.
¿Quién controla a la IA y su vertiginoso desarrollo?
Los investigadores advierten que el número de escenarios no mide su probabilidad. Que la toma de control unilateral acumule más referencias refleja la atención que ha recibido en la literatura científica, no que sea el desenlace más probable. La clasificación tampoco es definitiva: nuevas investigaciones podrían descartar algunas vías o descubrir otras.
El estudio convierte temores dispersos en cadenas causales que pueden analizarse a largo plazo: así es posible debatir qué supuestos son plausibles, detectar señales tempranas y diseñar respuestas específicas, que incluirían desde reforzar la supervisión y la seguridad técnica hasta limitar la concentración de poder y evitar que decisiones críticas queden fuera del control democrático.
No hay comentarios:
Publicar un comentario