La inteligencia artificial está dando lugar a una era de robots asesinos

Por The New York Times | Paul Mozur and Adam Satariano

KIEV, Ucrania — Hace poco, en un campo a las afueras de Kiev, los fundadores de Vyriy, una empresa ucraniana de drones, trabajaban en un arma del futuro.

Para mostrar cómo funcionaba, Oleksii Babenko, de 25 años, director ejecutivo de Vyriy, se subió a su motocicleta y recorrió un camino de tierra. Detrás de él, lo seguía un dron, mientras un colega monitoreaba los movimientos desde una computadora del tamaño de un portafolio.

Hasta hace poco, un humano habría pilotado el cuadricóptero. Ya no. En cambio, después de que el dron siguió de cerca su objetivo, Babenko, voló por sí solo, guiado por un software que utilizaba la cámara de la máquina para rastrearlo.

El rugido del motor de la motocicleta no fue rival para el dron silencioso que acechaba a Babenko.

Si el dron hubiera estado armado con explosivos y si sus colegas no hubieran desactivado el rastreo autónomo, Babenko habría muerto.

Vyriy es tan solo una de las muchas empresas ucranianas que trabajan para dar un gran paso adelante en la militarización de la tecnología de consumo, motivada por la guerra con Rusia. La presión para superar al enemigo, junto con enormes flujos de inversión, donaciones y contratos gubernamentales, ha convertido a Ucrania en un Silicon Valley de drones autónomos y otros armamentos.

Las empresas están creando una tecnología que vuelve cada vez más tangencial el juicio humano en torno a los objetivos y los ataques. La disponibilidad generalizada de aparatos comerciales, software fácil de diseñar, algoritmos potentes de automatización y microchips especializados de inteligencia artificial ha sido el impulso de una carrera letal de innovación hacia territorios desconocidos, la cual ha avivado una posible nueva era de robots asesinos.

Las versiones más avanzadas de la tecnología que permite la autonomía de los drones y otras máquinas han sido posibles gracias al aprendizaje profundo, una forma de inteligencia artificial que utiliza grandes cantidades de datos para identificar patrones y tomar decisiones. El aprendizaje profundo ha ayudado a generar populares modelos de lenguaje de gran tamaño, como GPT-4 de OpenAI, pero también sirve para que los modelos interpreten y respondan en tiempo real a imágenes de video y cámaras. Esto significa que el software que alguna vez ayudó a un dron a seguir a un surfista sobre nieve por una montaña ahora puede convertirse en una herramienta mortal.

En más de una decena de entrevistas con emprendedores, ingenieros y unidades militares de Ucrania, surgió la imagen de un futuro cercano en el que pudiéramos ver enjambres de drones autoguiados que coordinen ataques y metralletas con visión por computadora que abatan a soldados automáticamente. También se están desarrollando creaciones más extravagantes, como un helicóptero no tripulado que planea y utiliza ametralladoras.

Aunque estas armas no son tan avanzadas como los costosos sistemas militares de Estados Unidos, China y Rusia, sí son significativas por su bajo costo -de apenas miles de dólares o menos- y su fácil disponibilidad.

A excepción de las municiones, muchas de estas armas se construyen con códigos encontrados en línea y componentes que pueden comprarse en Best Buy y una ferretería. Algunos funcionarios estadounidenses afirmaron que les preocupaba que estas capacidades pudieran utilizarse pronto para llevar a cabo atentados terroristas.

Para Ucrania, estas tecnologías podrían darle una ventaja contra Rusia, un país que también está desarrollando dispositivos asesinos autónomos… o simplemente ayudarle a mantener el ritmo. Los sistemas complican más un debate internacional sobre las repercusiones éticas y legales de la inteligencia artificial en el campo de batalla. Agrupaciones de derechos humanos y funcionarios de Naciones Unidas quieren limitar el uso de armas autónomas por temor a que puedan desencadenar una nueva carrera armamentística mundial que podría salirse de control.

En Ucrania, estas preocupaciones son secundarias, dado que la prioridad es defenderse de un invasor.

“Necesitamos máxima automatización”, opinó Mykhailo Fedorov, ministro de transformación digital de Ucrania, quien ha liderado las iniciativas del país para utilizar empresas emergentes del sector tecnológico a fin de expandir las capacidades de combate avanzado. “Estas tecnologías son fundamentales para nuestra victoria”.

Los drones autónomos como el de Vyriy ya se han utilizado en combate para atacar objetivos rusos, según funcionarios ucranianos y videos verificados por The New York Times. Fedorov señaló que el gobierno estaba trabajando para financiar empresas de drones y ayudarlas a aumentar su producción con rapidez.

En un destartalado taller en un edificio de apartamentos del este de Ucrania, Dev, un soldado de 28 años de la 92.ª Brigada de Asalto, ha ayudado a promover las innovaciones que han convertido drones baratos en armas. Primero colocó bombas sobre drones de carreras, luego les agregó baterías más grandes para que volaran más lejos y hace poco incorporó visión nocturna para que las máquinas pudieran cazar en la oscuridad.

En mayo, fue uno de los primeros en utilizar drones autónomos, entre ellos los de Vyriy. Dev comentó que, aunque algunos necesitaban mejoras, los consideraba el próximo gran salto tecnológico en llegar al frente.

“Ya hay una gran demanda” de drones autónomos, afirmó. Las máquinas han sido especialmente útiles contra las interferencias que pueden interrumpir los enlaces de comunicación entre el dron y el piloto. Si el dron vuela solo, el piloto tan solo podría apuntar a un objetivo y dejar que el dispositivo haga el resto.

Por toda Ucrania han aparecido fábricas y laboratorios improvisados que construyen máquinas a control remoto de todos los tamaños, desde aviones de largo alcance y barcos de ataque hasta drones kamikaze baratos, abreviados con la sigla en inglés FPV (la sigla en inglés de visión en primera persona), porque los guía un piloto que usa unas gafas similares a las de realidad virtual, las cuales muestran una vista desde el dron. Muchos son precursores de máquinas que en algún momento actuarán por sí solas.

Los esfuerzos por automatizar los vuelos de FPV comenzaron el año pasado, pero se retrasaron debido a contratiempos en la construcción del software de control de vuelo, según Fedorov, quien afirmó que esos problemas se habían resuelto. El siguiente paso era escalar la tecnología con más gasto público, comentó Fedorov, quien agregó que unas diez empresas ya estaban fabricando drones autónomos.

“Ya tenemos sistemas que se pueden producir en masa y que se están probando de forma exhaustiva en el frente, es decir que ya se utilizan activamente”, afirmó Fedorov.

En una tarde calurosa del mes pasado en la región oriental ucraniana conocida como el Donbás, Yurii Klontsak, un reservista de 23 años, entrenaba a cuatro soldados para usar el arma futurista más moderna: una torreta con sistema autónomo de detección de objetivos que funciona con un control de PlayStation y una tableta.

Mientras de fondo sonaban estallidos de bombardeos cercanos, Klontsak explicó cómo el arma, llamada Wolly por su parecido con el robot de Pixar WALL-E, puede fijar en automático un objetivo a una distancia de hasta 1000 metros y saltar entre posiciones preprogramadas para cubrir con rapidez un área de grandes dimensiones. La empresa que fabrica el arma, DevDroid, también está desarrollando un sistema de puntería automática para seguir y alcanzar objetivos en movimiento.

“Cuando vi el arma por primera vez, quedé fascinado”, admitió Klontsak. “Entendí que era la única forma, si bien no de ganar esta guerra, al menos de mantener nuestras posiciones”.

El arma es una de las varias que han aparecido en el frente con software entrenado por inteligencia artificial para rastrear y disparar a objetivos de forma automática. Casi igual que en la identificación de objetos de las cámaras de vigilancia, el software rodea a las personas y otros posibles objetivos con un recuadro digital en una pantalla. Lo único que debe hacer el tirador es apretar el gatillo a distancia con el control de un videojuego.

A menudo, las exigencias del campo de batalla unen a ingenieros y soldados. Oleksandr Yabchanka, comandante de Lobos Da Vinci, un batallón conocido por su innovación en armamento, recordó cómo la necesidad de defender la “carretera de la vida” -una ruta utilizada para hacer llegar suministros a los soldados que luchaban contra los rusos a lo largo de la línea del frente oriental en Bajmut- había estimulado la inventiva. Mientras imaginaba una solución, publicó una solicitud abierta en Facebook de una metralleta computarizada por control remoto.

Después de varios meses, Yabchanka obtuvo un prototipo funcional de una firma llamada Roboneers. El arma fue útil para su unidad casi al instante.

“Podíamos sentarnos en la trinchera a beber café, fumar cigarros y dispararles a los rusos”, comentó.