Según Gemini Pro, para una década es cero y para los
próximos cincuenta años de 0,18 por ciento.
Para Copilot de Microsoft, el escenario de Gates cae en un
rango de 0.1% a uno por ciento en la próxima década.
Y para GPT-6 Astra no se puede asignar una probabilidad
matemática específica (pero el riesgo sí es real y merece atención seria).
Dijo: “es una declaración muy seria y preocupante, que refleja los riesgos
potenciales de tecnologías poderosas en manos equivocadas”.
EL CALCULO DE GEMINI PRO
Para Gemini Pro deben concurrir las variables capacidad, probabilidad
de acceso y uso malintencionado, fallo defensivo y escalabilidad:
1)
Capacidad.- Probabilidad
de 80%. La IA desarrolla el nivel técnico para diseñar armas de destrucción
masiva (ej. patógenos sintéticos o vulneración de control nuclear). Justificación:
Sistemas como AlphaFold ya mapean estructuras biológicas con precisión sin
precedentes. La existencia de la herramienta es altamente probable.
2)
Probabilidad de acceso y
voluntad de uso malintencionado.- Probabilidad de 30%.- Un actor (estado
rebelde, grupo terrorista o individuo) obtiene acceso sin restricciones a esta
IA y decide usarla para el exterminio.
3)
Fallo defensivo.- Se
requiere que el ataque sortee los sistemas de seguridad globales (agencias de
inteligencia, bioseguridad, ciberdefensa). Y esta probabilidad es de 15%, porque
la IA no solo mejora la ofensiva, sino también la defensa. Los sistemas de
vigilancia epidemiológica, impulsados por IA y las arquitecturas de seguridad
de "confianza cero", dificultarían enormemente un despliegue invisible.
4)
Escalabilidad.- Finalmente,
para llegar a los mil millones de víctimas a que se refiere Bill Gates (12.5%
de la población mundial) se requiere escalabilidad, es decir, un vector casi
imposible: un virus con letalidad extrema pero que no mate tan rápido como para
frenar su transmisión, o un colapso nuclear simultáneo a nivel global que
supere los protocolos de intercepción. Esa probabilidad es de cinco por ciento.
5)
La probabilidad del
conjunto: capacidad, más acceso y voluntad, más fallo defensivo y
escalabilidad, es de (0,8*0,3*0,15*0,05)*100 =0,0018 =0,18%
Bajo este modelo de factores concurrentes, la probabilidad
de que el uso malintencionado de la IA resulte en mil millones de muertes en
los próximos 50 años se sitúa en un 0.18%.
Según Gemini Pro, aunque un riesgo inferior al 1% puede
parecer bajo en términos cotidianos, en el análisis de riesgos existenciales
representa una cifra alarmante.
Para dimensionarlo, la probabilidad de que un individuo
muera en un accidente de aviación comercial es aproximadamente del 0.00001%. Un
riesgo del 0.18% de perder a una octava parte de la humanidad justifica por qué
figuras tecnológicas e investigadores abogan por un diseño de seguridad
riguroso antes de liberar capacidades que puedan ser aprovechadas como armas.
Pregunto: ¿Por qué un horizonte de cincuenta años?
Responde Gemini Pro:
Elegí un horizonte de 50 años porque es el margen temporal
estándar en los estudios de prospectiva tecnológica y riesgo existencial.
Evaluar un evento catastrófico requiere equilibrar la velocidad a la que avanza
el software con la lentitud a la que cambia el mundo físico.
Esta ventana temporal se fundamenta en tres factores:
- La maduración de la IA General (AGI): La
mayoría de las predicciones académicas sitúan la llegada de la
Inteligencia Artificial General (sistemas que igualen o superen al humano
en todas las tareas cognitivas) dentro de las próximas cinco décadas. Un
cálculo a solo 5 o 10 años habría arrojado una probabilidad casi nula, ya
que los modelos actuales no tienen la autonomía ni las capacidades
sistémicas para orquestar un colapso global por sí solos.
- La barrera física (Bits vs. Átomos): Aunque
un modelo de IA genere hoy el código genético de un patógeno letal o un
plan para vulnerar redes eléctricas, un actor malicioso todavía necesita
construir laboratorios biológicos clandestinos, sintetizar el virus, o
sortear sistemas de seguridad que no están conectados a internet (como las
bases de misiles). Trasladar un riesgo digital al mundo físico y escalarlo
a nivel planetario toma décadas de convergencia tecnológica.
- Relevancia analítica: En la investigación de
riesgos catastróficos, proyectar a más de 100 años convierte cualquier
cálculo en pura especulación de ciencia ficción. Por el contrario, un
horizonte de medio siglo permite observar el efecto compuesto del
desarrollo tecnológico en la sociedad, manteniéndose en un plazo que
justifica la creación de regulaciones e instituciones defensivas en el
presente.
Si el horizonte se redujera exclusivamente a la próxima
década, la variable de "Escalabilidad" habría sido prácticamente
cero, ya que las fricciones y defensas actuales del mundo real seguirían siendo
un freno lo suficientemente fuerte contra el mal uso de la IA contemporánea.
Responde GPT-6 Astra:
La afirmación de Bill Gates sobre la posibilidad de que mil
millones de personas puedan morir a causa del uso malintencionado de la
inteligencia artificial (IA) es una declaración muy seria y preocupante, que
refleja los riesgos potenciales de tecnologías poderosas en manos equivocadas.
Dice que sobre la probabilidad exacta de que eso ocurra, es
difícil calcular un número preciso porque depende de múltiples variables,
muchas de las cuales son altamente inciertas y complejas. Estas variables
incluyen:
- Nivel de avance y autonomía de la IA: Cuánto
control y poder real puede tener una IA para causar daño masivo.
- Intenciones y capacidades de actores
malintencionados: Quiénes serían esos actores, qué recursos tienen y
qué tan dispuestos estarían a causar daño.
- Medidas de prevención y regulación: Qué
sistemas de control, ética, supervisión y defensa se implementan a nivel
global para mitigar riesgos.
- Factores sociales y políticos: Cómo
reaccionan gobiernos, organizaciones, y la sociedad a estos desafíos.
- Eventos impredecibles: Factores externos o
accidentales que podrían escalar una crisis.
Dado que no podemos predecir con certeza las interacciones
exactas de estos elementos, cualquier probabilidad será una conjetura amplia.
Sin embargo, expertos en seguridad y ética en IA consideran
que el riesgo sí es real y merece atención seria, incluso si no se puede
asignar una probabilidad matemática específica. Gates y otros líderes están
alertando para que se tomen medidas preventivas antes de que se materialicen
daños catastróficos.
[1] En las familias de IA, de Google, la
versión "Pro" suele ser el modelo más versátil de la línea,
optimizado para ofrecer el mejor equilibrio entre alta capacidad de
razonamiento y rapidez, situándose entre las versiones ligeras (para
dispositivos móviles) y las más masivas (para tareas de ultra alta
complejidad).
El chatbot o asistente
(la aplicación con la que se interactúa en la pantalla) no es el modelo en sí,
sino una interfaz construida sobre él. Un asistente virtual utiliza la potencia
analítica del modelo Pro para entender tus instrucciones, conversar y ejecutar
tareas.
[2] Con
tecnología de OpenAI, GPT-6 Astra es el modelo de inteligencia
artificial más avanzado de OpenAI, lanzado el 3 de septiembre de 2026, y
diseñado específicamente para ejecutar tareas complejas y de múltiples pasos de
forma totalmente autónoma en un ordenador.
[3] Microsoft
Copilot, es un asistente de inteligencia artificial creado por Microsoft.
Forma parte del ecosistema de herramientas de IA que Microsoft integra en
Windows, Edge, Office, Azure y otros servicios. Copilot no pertenece ni a
OpenAI, ni a Google, ni a Meta. Su diseño, capacidades y límites vienen de
Microsoft, y su comportamiento está guiado por las políticas y principios de
esa empresa.-
Comentarios