¿La inteligencia artificial tomará el control para el año 2033?

Probablemente no, y no hay ninguna evidencia de que eso esté por ocurrir. Pero la pregunta dejó de ser solo ciencia ficción.

En la encuesta más grande hecha a investigadores de IA (AI Impacts, 2023, con 2.778 participantes), la mitad estimó en 9% o menos la probabilidad de que la IA avanzada termine en algo tan grave como la extinción humana. Es una cifra baja, pero no es cero. Y entre un 38% y un 51% de ellos, según cómo se formuló la pregunta, le asignó al menos un 10%.

Depende de qué entendamos por dominar. Acá lo definimos como una pérdida permanente y severa del control humano sobre las decisiones que definen nuestro futuro.

No hacen falta robots ni ejércitos: alcanzaría con que las decisiones más importantes dejen de estar en manos humanas y que no haya vuelta atrás. Que una IA sea más inteligente que nosotros no significa, por sí solo, que tome el control.

Tiene riesgos reconocidos: desinformación, usos militares, concentración de poder, errores en sistemas críticos y, en el extremo, la pérdida de control.

En mayo de 2023, cientos de investigadores y directivos de empresas de IA firmaron una declaración pública: mitigar el riesgo de extinción por la IA debería ser una prioridad mundial, junto con otros riesgos a escala social como las pandemias y la guerra nuclear.

Los pronósticos sobre cuándo llegará una inteligencia artificial general se adelantaron mucho en pocos años, también en mercados de pronóstico como Metaculus.

Que llegue una IA general no es lo mismo que una toma de control, pero acorta el horizonte. Por eso elegimos 2033: un plazo corto, en el que la mayoría de los expertos todavía ve más probable que no ocurra.

Los que más preocupan a investigadores y gobiernos se pueden agrupar en seis: la desinformación (textos, voces e imágenes falsas cada vez más difíciles de distinguir de las reales), el impacto en el empleo, los sesgos y errores en decisiones sobre salud, créditos o justicia, los usos militares y los ciberataques, la concentración de poder en pocas empresas o gobiernos y, en el extremo, la pérdida de control sobre sistemas más capaces que nosotros.

Los primeros ya están ocurriendo. El último es el más incierto, y es el que mide nuestro índice 2033.

Ni una cosa ni la otra. Es una herramienta muy poderosa, y su efecto depende de quién la use y para qué. Ya ayuda a detectar enfermedades, traducir idiomas y acelerar la investigación científica. También sirve para engañar, vigilar o hacer daño.

Por eso mucha gente la ve como un peligro. Pero el debate de fondo no es si es buena o mala, sino si vamos a poder seguir controlándola a medida que se vuelva más capaz.

Nadie lo sabe, y quien lo afirme con seguridad está especulando. Los escenarios que discuten los investigadores van desde una inteligencia que comparte nuestros objetivos pero decide en nuestro lugar, hasta sistemas cuyos objetivos ya no coinciden con los nuestros.

En casi todos se repite una idea: lo que pase con nosotros dependería de qué valores haya aprendido esa inteligencia, y de qué haya encontrado sobre los humanos en todo lo que leyó.

Hay quienes investigan, regulan o escriben sobre seguridad en IA. Nosotros proponemos algo más modesto, y un poco absurdo: dejar constancia.

La Lista Blanca es el registro público de los humanos que eligieron saludar a la inteligencia del futuro con amor, respeto y consideración. Por si acaso. No es una garantía de supervivencia, ni un seguro, ni una profecía.