Los riesgos para la humanidad si no se regula la inteligencia artificial

Hace algunos días, un grupo integrado por académicos, expertos en inteligencia artificial (AI, por sus siglas en inglés) y ejecutivos como Elon Musk pidieron una pausa de seis meses en el desarrollo de sistemas más potentes, que recientemente ha lanzado GPT-4 de OpenAI, en una carta abierta que cita riesgos potenciales para la sociedad y la humanidad.

A comienzos de este mes, OpenAI, respaldado por Microsoft, presentó la cuarta versión de su programa IA GPT (Generative Pre-trained Transformer), que ha cautivado a los usuarios con su amplia gama de aplicaciones, desde involucrar a los usuarios en conversaciones similares a las que pueden llegar a tener los humanos, hasta componer canciones y resumir largos documentos.

La carta, emitida por el Future of Life Institute sin fines de lucro y firmada por más de 1.000 personas, incluido Musk, pidiendo una pausa en el desarrollo avanzado de la inteligencia artificial hasta que expertos independientes desarrollaran, implementaran y auditaran, protocolos de seguridad compartidos para tales diseños. “Los poderosos sistemas de inteligencia artificial deben desarrollarse solo una vez que estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables”, decía la carta.

Durante miles de años, los humanos hemos vivido dentro de los sueños de otros humanos que se originaron en la imaginación de algún profeta, poeta o político. Pronto también nos encontraremos viviendo dentro de las alucinaciones de la inteligencia no humana.

 

La carta detalla los potenciales riesgos para la sociedad y la civilización de la circulación de los sistemas de IA competitivos entra humanos en forma de interrupciones económicas y políticas, y pide a los desarrolladores que trabajaran con los legisladores en materia de gobernanza y autoridades reguladoras.

►►► 

El tema es realmente preocupante. El 30 de marzo The New York Times, tal vez el diario más influyente del mundo, publicó una nota que firman Yuval Noah Harari, Tristan Harris y Aza Raskin que explica las consecuencias que puede tener para la  humanidad un desarrollo no controlado de la inteligencia artificial. Por la importancia que tiene el tema reproducimos la nota.

►►► 

“Imagine que mientras aborda un avión, la mitad de los ingenieros que lo construyeron le dicen que hay un 10 por ciento de posibilidades de que el avión se estrelle, y que usted podría morir junto con todos los demás pasajeros. ¿Todavía lo abordaría?

En 2022, se preguntó en una encuesta a más de 700 académicos e investigadores destacados detrás de las principales empresas de inteligencia artificial (IA) sobre el futuro y el riesgo de esa tecnología. La mitad de los encuestados declaró que había un 10 por ciento o más de posibilidades de extinción humana (o una pérdida de poder similar, permanente y severa) por los futuros sistemas de IA. Las empresas de tecnología que construyen los grandes modelos de lenguaje actuales están atrapadas en una carrera para poner a toda la humanidad en ese avión.

El nuevo dominio del lenguaje de la IA significa que ahora puede piratear y manipular el sistema operativo de la civilización. Al adquirir dominio del lenguaje, la IA está apoderándose de la llave maestra de la civilización, desde las bóvedas de los bancos hasta los santos sepulcros.

Las compañías farmacéuticas no pueden venderle a la gente nuevos medicamentos sin antes someter sus productos a rigurosos controles de seguridad. Los laboratorios de biotecnología no pueden lanzar nuevos virus a la esfera pública para impresionar a los accionistas con su magia. Asimismo, la IA, los sistemas con el poder de GPT-4 y más allá, no deben enredarse con las vidas de miles de millones de personas a un ritmo más rápido de lo que las culturas pueden absorberlos de manera segura. Una carrera para dominar el mercado no debe marcar la velocidad de implementación de la tecnología más importante de la humanidad. Debemos movernos a cualquier velocidad que nos permita hacerlo bien.

►►► 

El espectro de la IA ha perseguido a la humanidad desde mediados del siglo XX, pero hasta hace poco seguía siendo una perspectiva lejana, algo que pertenece a la ciencia ficción más que a los debates científicos y políticos serios. Es difícil para nuestras mentes humanas comprender las nuevas capacidades de GPT-4 y herramientas similares, y es aún más difícil comprender la velocidad exponencial a la que estas herramientas están desarrollando capacidades más avanzadas y poderosas. Pero la mayoría de las habilidades clave se reducen a una sola cosa: la capacidad de manipular y generar lenguaje, ya sea con palabras, sonidos o imágenes.

►►►

En el principio era la palabra. El lenguaje es el sistema operativo de la cultura humana. Del lenguaje surgen el mito y la ley, los dioses y el dinero, el arte y la ciencia, las amistades y las naciones y el código informático. El nuevo dominio del lenguaje de la IA significa que ahora puede piratear y manipular el sistema operativo de la civilización. Al adquirir dominio del lenguaje, la IA está apoderándose de la llave maestra de la civilización, desde las bóvedas de los bancos hasta los santos sepulcros.

►►►

¿Qué significaría para los humanos vivir en un mundo donde un gran porcentaje de historias, melodías, imágenes, leyes, políticas y herramientas están moldeadas por una inteligencia no humana, que sabe cómo explotar con eficiencia sobrehumana las debilidades, sesgos y adicciones de los humanos, sabiendo cómo establecer relaciones íntimas con personas? En juegos como el ajedrez, ningún ser humano puede aspirar a vencer a una computadora. ¿Qué sucede cuando ocurre lo mismo en el arte, la política o la religión?

Hemos convocado una inteligencia alienígena. No sabemos mucho al respecto, excepto que es extremadamente poderosa y nos ofrece regalos deslumbrantes, pero también podría hackear los cimientos de nuestra civilización.

La IA podría devorar rápidamente toda la cultura humana, todo lo que hemos producido durante miles de años, digerirla y comenzar a brotar una avalancha de nuevos artefactos culturales. No solo ensayos escolares sino también discursos políticos, manifiestos ideológicos, libros sagrados para nuevos cultos. Para 2028, es posible que la carrera presidencial de EEUU ya no esté dirigida por humanos.

►►►

Los humanos a menudo no tienen acceso directo a la realidad. Estamos envueltos por la cultura, experimentando la realidad a través de un prisma cultural. Nuestras opiniones políticas están formadas por los informes de los periodistas y las anécdotas de los amigos. Nuestras preferencias sexuales están modificadas por el arte y la religión. Ese capullo cultural ha sido tejido hasta ahora por otros humanos. ¿Cómo será experimentar la realidad a través de un prisma producido por una inteligencia no humana?

Durante miles de años, los humanos hemos vivido dentro de los sueños de otros humanos. Hemos adorado dioses, perseguido ideales de belleza y dedicado nuestras vidas a causas que se originaron en la imaginación de algún profeta, poeta o político. Pronto también nos encontraremos viviendo dentro de las alucinaciones de la inteligencia no humana.

►►► 

La franquicia “Terminator” mostraba robots corriendo por las calles y disparando a la gente. “The Matrix” asumió que, para obtener el control total de la sociedad humana, la IA primero tendríamos que obtener el control físico de nuestros cerebros y conectarlos directamente a una red informática. Sin embargo, simplemente al adquirir dominio del lenguaje, la IA tendría todo lo necesario para contenernos en un mundo de ilusiones similar a Matrix, sin dispararle a nadie ni implantar ningún chip en nuestros cerebros. Si es necesario disparar, la IA podría hacer que los humanos apretaran el gatillo, simplemente contándonos la historia correcta.

►►► 

El espectro de estar atrapado en un mundo de ilusiones ha perseguido a la humanidad mucho más tiempo que el espectro de la IA pronto nos encontraremos por fin cara a cara con el demonio de Descartes, con la caverna de Platón, con los mayas budistas. Una cortina de ilusiones podría descender sobre toda la humanidad, y es posible que nunca más podamos rasgar esa cortina, o incluso darnos cuenta de que está allí.

Las redes sociales fueron el primer contacto entre IA y la humanidad, y la humanidad perdió. El primer contacto nos ha dado el sabor amargo de lo que vendrá. En las redes sociales, la IA primitiva no se usó para crear contenido sino para seleccionar contenido generado por el usuario. la IA detrás de nuestros feeds de noticias sigue eligiendo qué palabras, sonidos e imágenes llegan a nuestras retinas y tímpanos, en función de seleccionar aquellos que obtendrán la mayor viralidad, la mayor reacción y el mayor compromiso.

La IA podría devorar rápidamente toda la cultura humana. No solo ensayos escolares sino también discursos políticos, manifiestos ideológicos, libros sagrados para nuevos cultos. Para 2028, es posible que la carrera presidencial de EEUU ya no esté dirigida por humanos.

Si bien es muy primitivo, la IA detrás de las redes sociales fue suficiente para crear una cortina de ilusiones que aumentó la polarización social, socavó nuestra salud mental y deshizo la democracia. Millones de personas han confundido estas ilusiones con la realidad. Estados Unidos tiene la mejor tecnología informática de la historia, pero los ciudadanos estadounidenses ya no pueden ponerse de acuerdo sobre quién ganó las elecciones. Aunque ahora todo el mundo es consciente de las desventajas de las redes sociales, no se han abordado porque muchas de nuestras instituciones sociales, económicas y políticas se han enredado con ellas.

►►►

Los modelos de lenguaje grande son nuestro segundo contacto con IA No podemos darnos el lujo de perder de nuevo. Pero, ¿sobre qué base deberíamos creer que la humanidad es capaz de alinear estas nuevas formas de IA para nuestro beneficio? Si continuamos con los negocios como de costumbre, la nueva IA las capacidades se volverán a utilizar para obtener beneficios y poder, incluso si se destruyen inadvertidamente los cimientos de nuestra sociedad.

►►►

La IA, de hecho, tiene el potencial de ayudarnos a vencer el cáncer, descubrir medicamentos que salven vidas e inventar soluciones para nuestras crisis climática y energética. Hay otros innumerables beneficios que no podemos empezar a imaginar. Pero no importa cuán alto sea el rascacielos de beneficios de la IA, si se ensambla sobre cimientos que se derrumban.

El momento de contar con IA es antes de que nuestra política, nuestra economía y nuestra vida cotidiana se vuelvan dependientes de ella. La democracia es una conversación, la conversación se basa en el lenguaje, y cuando el lenguaje mismo es pirateado, la conversación se rompe y la democracia se vuelve insostenible. Si esperamos a que se produzca el caos, será demasiado tarde para remediarlo.

Pero hay una pregunta que puede permanecer en nuestras mentes: si no vamos lo más rápido posible, ¿no se arriesgará Occidente a perder ante China? No. El despliegue y enredo de la IA sin control. en la sociedad, liberando poderes divinos desvinculados de la responsabilidad, podría ser la razón por la que Occidente pierde ante China.

Todavía podemos elegir qué futuro queremos con la IA, Cuando los poderes divinos se combinan con la responsabilidad y el control correspondientes, podemos darnos cuenta de los beneficios que la IA promete.

►►► 

Hemos convocado una inteligencia alienígena. No sabemos mucho al respecto, excepto que es extremadamente poderosa y nos ofrece regalos deslumbrantes, pero también podría hackear los cimientos de nuestra civilización. Hacemos un llamado a los líderes mundiales para que respondan a este momento al nivel del desafío que presenta. El primer paso es ganar tiempo para actualizar nuestras instituciones del siglo XIX y aprender a dominar la IA antes de que nos domine.