La IA no está OK

Por The New York Times | Maureen Dowd

La primera vez que entrevisté a Eric Schmidt, hace una docena de años cuando era el director ejecutivo de Google, le hice una simple pregunta sobre la tecnología que se ha vuelto capaz de espiar y monetizar todos nuestros movimientos, opiniones, relaciones y gustos.

“¿Amiga o enemiga?”, le pregunté.

“Nosotros afirmamos ser amistosos”, respondió Schmidt con frialdad.

Ahora que el exejecutivo de Google está a punto de lanzar un libro este martes 2 de noviembre sobre “The Age of AI” escrito junto a Henry Kissinger y Daniel Huttenlocher, quise hacerle la misma pregunta sobre la inteligencia artificial (IA): “¿Amiga o enemiga?”.

“La IA es imprecisa, lo que significa que puede ser poco confiable como socia”, dijo cuando nos encontramos en su oficina de Manhattan. “Es dinámica en el sentido de que está cambiando todo el tiempo. Es emergente y hace cosas inesperadas. Y, lo más importante, es capaz de aprender”.

“Estará en todas partes. ¿Cómo se ve un mejor amigo habilitado con IA, en especial para un niño? ¿Cómo luce la guerra habilitada con IA? ¿Percibe la IA aspectos de la realidad que nosotros no? ¿Es posible que la IA vea cosas que los humanos no puedan comprender?”.

En lo particular, estoy de acuerdo con Elon Musk en que cuando construimos una IA sin un botón de apagado de emergencia, estamos “invocando al demonio” y los humanos podrían terminar, como dijo Steve Wozniak, como las mascotas de la familia (si tenemos suerte).

Sobre las alarmas generadas por figuras como Musk y Stephen Hawking, Schmidt dice que “ellos creen que, al liberar la IA, con el tiempo, terminaremos con un jefe supremo robot que será 10, 100 o 1000 veces más inteligente que los humanos. Mi respuesta es diferente. Creo que toda la evidencia señala que estos sistemas de inteligencia artificial van a pensar, aunque no como los humanos. Pero van a ser muy inteligentes. Vamos a tener que coexistir”.

¿No crees que Siri y Alexa terminen matándonos una noche de estas?

“No”, dijo. “Pero podrían terminar convirtiéndose en los mejores amigos de tu hijo”.

Las opiniones sobre la inteligencia artificial son tremendamente divergentes. Jaron Lanier, el padre de la realidad virtual, pone en blanco los ojos, harto de la obsesión de los digerati en Silicon Valley con la “fantasía de ciencia ficción” de la IA.

“A veces, puede llegar a convertirse en un gigantesco dios falso”, me dijo. “A estos chicos ñoños que tienen una horrible reputación por la manera en que tratan a las mujeres, se les permite ser creadores de vida. ‘Ustedes, mujeres, con sus diminutos y triviales úteros biológicos, no son rivales para nosotros. Aquí estamos creando la gran vida. Somos los superdioses del futuro’”.

Desde hace tiempo, sabemos que Silicon Valley nos está llevando a la perdición. Acusaciones absurdas que solían no ganar tracción —desde redes demócratas de pedofilia, pasando por elecciones amañadas y teorías de conspiración sobre las vacunas—; ahora, se propagan a la velocidad de la luz. El brillante y engañoso mundo de Instagram, propiedad de la manipuladora y codiciosa compañía anteriormente conocida como Facebook, puede potenciar la depresión en las adolescentes.

Schmidt dijo que un estudiante de Oxford le dijo, sobre el veneno de las redes sociales, que “la unión del aburrimiento y el anonimato es peligrosa”. En especial, en la intersección entre la adicción y la envidia.

La interrogante de si perderemos el control a manos de la IA pudiera ser cosa del pasado. La tecnología ya nos está manipulando.

Schmidt admite que la falta de anticipación entre “los señores de la computación en la nube” sobre la dirección que tomaría la tecnología fue “estúpida”.

“Debo decir que hace 10 años, cuando estuve trabajando muy duro en estas redes sociales, y quizás solo sea ingenuidad, nunca pensamos que los gobiernos las usarían contra los ciudadanos, como sucedió en 2016, con la interferencia de los rusos”.

“No pensamos que luego uniría a estos grupos de intereses especiales con esos sistemas de creencias violentamente fuertes. Nadie lo mencionó nunca. No quiero volver a cometer el mismo error con una nueva tecnología base”.

Schmidt dijo que la Comisión de Seguridad Nacional sobre la Inteligencia Artificial, la cual presidió este año, concluyó que Estados Unidos todavía está “un poco por delante de China” en la carrera tecnológica, pero que China está “invirtiendo en exceso contra nosotros”. Los autores escriben que lo que más les preocupa son otros países que desarrollan armas habilitadas con IA con “sustancial potencial destructivo” que “puedan adaptarse y aprender mucho más allá de sus objetivos previstos”.

“Lo primero que debemos considerar entre Estados Unidos y China es asegurarnos de que no haya un escenario tipo ‘Dr. Insólito’, un lanzamiento con advertencia, para garantizar de que haya tiempo para la toma de decisiones humanas”, dijo. “Imaginemos que estás en un barco en el futuro y el pequeño sistema computarizado le dice al capitán: ‘Te quedan 24 segundos de vida porque un misil hipersónico viene hacia ti. Tienes que presionar este botón ahora’. Quieres confiar en la IA, pero debido a su naturaleza imprecisa, ¿qué pasa si comete un error?”.

Le pregunté a Schmidt si pensaba que Facebook podía dejar atrás sus problemas cambiando su nombre a Meta.

“El problema es, ¿cómo se llamarán ahora las acciones FAANG? ¿MAANG?” dijo, refiriéndose a las acciones tecnológicas más importantes: Facebook, Apple, Amazon, Netflix y Google. “Google cambió su nombre a Alphabet y aun así siguió siendo Google”.

¿Y qué pasa con ese tétrico metaverso que Mark Zuckerberg está tratando de vendernos?

“Todas las personas que hablan de metaversos, hablan de mundos más satisfactorios que el mundo actual: eres más rico, más guapo, más hermoso, más poderoso, más rápido. Entonces, en algunos años, la gente optará por pasar más tiempo con sus gafas, en el metaverso. Y, ¿quién establece las reglas? El mundo se volverá más digital que físico. Y ese no es necesariamente el mejor escenario para la sociedad humana.

Schmidt dijo que su libro plantea preguntas que aún no pueden responderse.

Desafortunadamente para nosotros, no sabremos las respuestas hasta que sea demasiado tarde. Eric Schmidt, exejecutivo de Google y escritor, en Nueva York, el 25 de octubre de 2021. (Axel Dupeux/The New York Times)