“Llegó el momento de empezar a discutir los temas éticos relacionados a la inteligencia artificial”

Pablo Brenner (54) ha hecho mucha cosa. Siempre en el campo de la innovación tecnológica, y es reconocido como uno de los padres del Wifi- la conexión inalámbrica que hace tanto es parte esencial de nuestras vidas.

Ahora está al frente de "Collokia", una empresa de inteligencia artificial, un mundo que ha avanzado a pasos agigantados en los últimos años y que Pablo está seguro seguirá sorprendiéndonos.

El siguiente es un resumen de la reciente entrevista realizada por Ana Jerozolimski para Semanario Hebreo.

P: Pablo, has fundado, dirigido , creado, distintas empresas exitosas. De fondo, lo central siempre es el espíritu de hacer algo nuevo. Y por cierto que significa enamorarse de una idea, no es solamente tener éxito económico ¿verdad?
R: Claro, generalmente, es verdad, el emprendedor no lo hace solo por dinero, hay maneras menos trabajosas de hacer dinero. Lo otro que tiene es que los emprendimientos tienen sus altos y bajos, siempre tienen épocas buenas y épocas peores, y si el único motivante es el dinero, entonces lo más probable es que en la época mala termines abandonando. Todos los emprendimientos que conozco, hasta los exitosos, tuvieron épocas duras en algún momento de los primeros años. Cuando mirás la historia de Uber, de Facebook y demás, no todo fue jardín de rosas. Es evidente que para llevarlo a cabo tiene que haber una motivación más grande que el dinero. Además, lo que tiene también es que el emprendedor solo no hace nada, tiene que juntar un equipo, y para eso uno no puede decir solo "Vengan, súmense que vamos a ganar plata", con más razón esos te van a abandonar enseguida cuando las cosas se pongan difíciles, para juntar un buen equipo tenés que venderles también una idea que los convenza a que sean partícipes de ese sueño.

P: ¿Cuál fue tu sueño, qué es lo que a vos te empujó y te permitió llegar a donde estás ahora?
R: Generalmente a mí un poco me gusta crear cosas, productos o empresas. O sea me gusta la parte misma de crear. Por eso siempre trato de unirme a empresas que están empezando o empezar cosas o proyectos nuevos. Me parece que es más estimulante. Capaz que hay gente a la que le gusta más la tranquilidad de saber que ya funcionó y mantenerlo, pero a mí me gusta la adrenalina de construir.

P: Y justamente en una etapa así estás ahora...
R: Así es. Ahora estoy en Collokia, que es una empresa de inteligencia artificial, estamos pasando todavía por la etapa más dura del emprendimiento.

LA RELATIVIDAD DE LA "CIENCIA FICCIÓN"

P: Inteligencia artificial...debo confesar que todas esas cosas me siguen pareciendo ciencia ficción.
R: Una vuelta escuché a alguien que decía: vivimos cambiándole la definición a la inteligencia artificial. Siempre definimos como inteligencia artificial lo que nos parece ciencia ficción. Pero hay cosas que hoy ya las ves como naturales, como puede ser que le hablás al celular y te entiende. Eso hace diez años era inimaginable. Antes eso era a lo que llamábamos inteligencia artificial. Hoy lo damos por obvio. O por ejemplo el piloto automático de un avión... eso tiene un montón de inteligencia artificial, lo que pasa es que como lo usamos hace tanto tiempo ya no nos parece ciencia ficción.

P: ¿Y qué sí nos parece ciencia ficción?
R: Sí nos parece ciencia ficción que un auto se maneje solo. O el reconocimiento de imágenes, que también tiene un montón de inteligencia artificial y avanzó muchísimo en estos últimos años. Siempre le vamos cambiando la definición a la inteligencia artificial, le hacemos trampa, siempre la pateamos para adelante.

NI LOS SUPERSÓNICOS LO IMAGINABAN

P: ¿Qué es lo que a vos te sigue no sé si decir admirando, pero sí quizás sorprendiendo, de ese mundo de la inteligencia artificial?
R: El tema de los autos autónomos, que en realidad está a la vuelta de la esquina, la tecnología ya existe. Ni siquiera te lo imaginabas cuando veías los Supersónicos. Nos imaginábamos autos voladores, pero no que se manejaran solos. Y no estamos tan lejos de llegar a lo que se denomina el nivel cinco de autos autónomos. Esos ni siquiera van a tener volante.

P: ¿Cómo se puede concebir eso? ¿Cómo funcionan?
R: Se manejan solos... Con la inteligencia artificial son menos peligrosos que la gente. Eso ya existe, Google ha hecho millones de kilómetros, Tesla ya lo incorpora en sus autos. Yo todavía no manejé ninguno, pero gente que conozco que manejó un Tesla con piloto automático dice que es muy difícil acostumbrarte a que el tipo va a doblar solo y vos no tenés que hacer nada.

P: O sea que solamente le decís de antemano adónde querés llegar.
R: Exacto. Eso ya existe. Todavía está un poco lento el tema de las regulaciones, como por ejemplo, si hay un accidente culpa de quién es. Pero estadísticamente esos autos tienen muchos menos accidentes que los autos conducidos por humanos.

P: ¿Cómo se mide eso cuando todavía no están funcionando en las calles?
R: Ya hay prototipos, Google hace años que tiene autos de esos en las calles...No se venden al público todavía. Bueno, en realidad el Tesla sí se vende al público .Por ejemplo fue muy comentado cuando tuvieron un accidente en el que murió una persona. Ellos lo que te dicen es que el auto se maneja solo pero vos tenés que estar igual sentado al volante y atento, por las dudas. Este tipo venía distraído, creo que mirando una película, y se cruzó un camión que era todo blanco, el auto no lo reconoció (la tecnología que usaba Tesla era con cámaras, otros usan una especie de radar), chocó con el camión y el hombre se murió. Eso le hizo mucha mala propaganda, pero fue un solo caso en miles que ya están dando vueltas. Por otro lado, hay otro caso que salió unas semanas después, una persona que se dio cuenta de que estaba teniendo un infarto y antes de desmayarse le dijo al auto que lo llevara al hospital y el auto lo llevó solo. Tenés uno y otro caso.

P: Increíble. Pero me pregunto...más allá de un caso como ese en el que la persona no puede manejar porque se siente mal, ¿para qué se puede querer estar adentro de un auto sin manejarlo?
R: Fijate que por ejemplo eso daría muchísima autonomía a la gente con cierta discapacidad que los limita. Tendrían muchísima autonomía no depender de gente que los lleve. Gente con problemas de visión o auditivos , gente con problemas de movilidad o simplemente personas de edad avanzada, o gente que sale de una fiesta después de haber bebido.

P: Interesante...no lo había pensado.
R: Decían que entre los primeros estados de Estados Unidos en legalizar los autos autónomos iba a estar Nevada, por Las Vegas, porque iba a ser mucho más seguro. Hay autos de BMW y Mercedes que ya tienen esa función, que si perdés el conocimiento el auto se sigue manejando hasta que se estaciona y pide ayuda. Hay un montón de casos en los que su utilidad es clara.

P: Pero me imagino que tiene que ser considerado positivo no sólo tomando en cuenta las situaciones especiales.
R: Exacto. Uno de los grandes temas es que hoy se gasta muchísimo combustible buscando estacionamiento y eso genera mucha polución; con un auto autónomo vos te bajás donde quieras, el auto se va a ir hasta donde haya estacionamiento y después te va a pasar a buscar. Esa es una de las teorías. Existe la teoría contraria, que dice que si el auto de verdad se va a poder manejar solo, lo que va a pasar es que no vas a precisar sentarte al volante, entonces vas a querer tener una televisión o un escritorio en el auto, que va a terminar siendo mucho más grande porque vas a querer más comodidades y no vas a tener problema en vivir más lejos, porque vas a aprovechar mejor ese tiempo de traslado. Entonces unos dicen que va a ahorrar en combustible y polución, y otros que va a ser peor porque la gente va a usar autos más grandes y a vivir más lejos de las ciudades. No estamos tan lejos, se calcula que para 2030, para lo que no falta tanto, ya van a ser populares.

P: Realmente no falta nada...
R: Se sabe que un chico que nazca hoy no va a tener que sacar libreta para conducir, va a ser ridículo que maneje. Eso está avanzando muchísimo, de verdad, y tiene una cantidad de inteligencia artificial...

CONCIENCIA Y EMOCIONES ¿SUSTITUIBLES?

P: ¿Hay algo de la condición humana que te parece que la tecnología no puede suplantar bajo ningún concepto?
R: Bueno, suponemos que la conciencia, pero por ejemplo el escritor israelí Yuval Harari dice que a la larga la condición humana no son más que reacciones y algoritmos bioquímicos, que todo lo que sentimos en realidad no son más que el efecto de hormonas y reacciones bioquímicas. Según él, si son algoritmos bioquímicos, los vamos a poder reemplazar por algoritmos computacionales.

P: Me parece un poco exagerado llevarlo a tal punto...Aparte...eso tiene que estar programado de antemano, y en el ser humano no lo está.
R: En la inteligencia artificial hoy se está trabajando en lo que se llama deep learning, que tampoco está programado de antemano. Ya hay robots que aprenden... Un primer hito de la inteligencia artificial fue cuando una computadora le ganó a Gary Kaspárov jugando al ajedrez. Este año ganó en el juego Go, que tiene millones de probabilidades diferentes, más que el ajedrez, a la larga. El sistema del ajedrez estaba programado para chequear todas las jugadas posibles hacia adelante para tomar una decisión, en el Go no existe eso, y el sistema que pusieron aprendió mirando partidos de Go, nadie le enseñó cómo se juega.

P : Sinceramente, da miedo.
R: Sí, un poco de miedo da. Lo mismo está pasando con parte de la tecnología de los autos autónomos, vos no podés enseñar todos los casos, tienen que ir aprendiendo solos, los van entrenando con autos conducidos. En teoría, tarde o temprano vamos a llegar a que todo ese aprendizaje solo lo va a poder hacer la inteligencia artificial. La gran discusión está en la parte de las emociones, que Yuval Harari lo ataca muy bien en su último libro, donde plantea que los cuentos de ciencia ficción son que el hombre arma un robot, le enseña un montón de cosas y en determinado momento empieza a hacer cosas malas, pero los hombres, con nuestra consciencia y con las emociones terminan ganando. Él lo que dice es que lo que nosotros llamamos hoy consciencia se lo vamos a poder poner a los robots.

P: ¿A vos te parece que tiene razón?
R: No sé. Hay discusiones a nivel de Bill Gates. Mark Zuckerberg, de Facebook, y Elon Musk, de Tesla, discuten si tenemos que empezar a controlar más la inteligencia artificial o no y si puede o no ser peligrosa para el ser humano. La discusión que cuando nosotros éramos jóvenes se hacía sobre la energía atómica ahora es sobre la inteligencia artificial, más tirando a si se puede volver en contra nuestra. Es una discusión que está planteada al más alto nivel y las respuestas no son claras.

LÍMITES ÉTICOS

P : ¿No te parece que no hay límite en cuanto al potencial de desarrollo de la inteligencia artificial? ¿Realmente también se podrá llegar a las emociones?
R: Yo creo que sí. Asusta y no digo que sea bueno...Tampoco es mañana. Pero tarde o temprano va a ser posible.

P: Creo que más allá de si va a ser posible y cuándo, hay de por medio muchos temas éticos que genera dudas.
R: Por supuesto. Esto genera un montón de interrogantes filosóficas. En verdad tenemos este tipo de interrogantes mucho antes, por ejemplo, en cuestiones que son más del día a día. Un caso que se está debatiendo mucho y que se usa como ejemplo: si un auto autónomo llega a una situación en la que es inevitable el choque y las opciones son girar a la izquierda y matar al conductor o girar a la derecha y atropellar a dos mujeres y un niño, ¿cómo lo vamos a programar? Hoy en un auto manejado por una persona vos decís: el tipo hizo lo que pudo, no podés evaluar qué hizo una persona en un caso así, hace lo que puede, pero acá va a estar programado para una cosa o la otra. Existirán personas que prefieran comprar un auto que siempre proteja al conductor. Otra cosa que dicen es que el auto lo que tiene que hacer es evaluar el daño menor, calcular la edad del peatón y la del conductor para decidir a quién conviene atropellar... Hay un montón de discusiones éticas por ese lado que son bastante inmediatas. Tarde o temprano esa discusión va a estar.

P: Cuando el planteo es el de un dilema ético el tema es que no me parece que las respuestas puedan ser categóricas y absolutas. La evaluación es algo cultural.
R: Claro, es algo totalmente cultural, y el mundo se globalizó. Quizás haya países y culturas que pongan cierta preferencia ética y otros que tengan otra escala de valores.

P. ¿Y cómo ves el límite ético? No solo en el tema del auto autónomo sino en el desarrollo de la inteligencia artificial.
R: Yo creo que a la larga la ética es la misma que tenemos hoy como humanos, con o sin la inteligencia artificial. Uno tiene una escala de valores y actúa acorde a ella. A la larga, la inteligencia artificial tendría que comportarse según la misma escala. Si uno lo mira, en la mayoría de los casos va a ser mejor, porque va a tomar mejores decisiones que los humanos, que a veces no sabemos tomar la decisión correcta.

P: Y volvamos a la ética...
R: Volviendo a los temas éticos, que también Harari menciona, un tema importante es el de la salud. Los avances que estamos haciendo a nivel de salud son muy grandes . Antes el desafío era poder curar, ahora empieza a haber salud para prevenir y mejorar. Antes el rey y el mendigo iban a morir, capaz que uno un poco antes y otro después, pero los dos se morían. Hoy hay mucha gente trabajando en tratar de estirar la vida, teóricamente se va a llegar a que no mueras, y eso va a depender de la capacidad económica que tengas.

P: ¿Te parece que va a ser posible?
R: Sí. Supongo que te vas a morir de otra cosa que todavía no conocemos, me imagino, pero te doy un ejemplo, aunque puede parecer medio ridículo: si vos te fijás, los glóbulos rojos la única función que tienen es recibir oxígeno y distribuirlo en los diferentes órganos y por eso cuando alguien tiene un paro cardíaco el problema es que dejan de circular y no llegan a los órganos. La rehabilitación cardíaca en verdad el único objetivo que tiene es seguir bombeando para que los glóbulos rojos circulen. Ahora, hay gente trabajando en nanotecnología para hacer glóbulos rojos con motorcito y con un sensor que identifica cuándo hay oxígeno y cuándo no, vos podés inyectarle eso a la gente para que cuando tenga un paro cardíaco empiecen a circular solos y mantengan a la persona viva hasta que llegue al hospital (y posiblemente, como decíamos antes, el dispositivo le diga al auto y te lleve solo).

P: O sea, a determinada edad se inyecta para que esté pronto ante la eventualidad de un paro.
R: O lo que va a pasar es que el que tiene plata se lo va a inyectar y el que no, no. Ahí empieza otro debate. Yuval Harari lo dice, la tecnología va a pasar por una época en la que va a generar una brecha social-biológica, va a haber súper hombres... por ejemplo, te vas a poder agregar un chip que te mejor la memoria, y el que pueda pagar va a tener más memoria que el que no. Vamos a poder tener súper hombres y hombres normales, eso alerta mucho, son temas éticos importantísimos.

P: Seré reiterativa diciendo que asusta. Ahora...esa brecha social sería un período determinado, porque se supone que después llegan a todos, porque los Estados lo adoptan...
R: Sí, en cierta medida, pasa con las vacunas y otras cosas. Hoy más o menos, no digo que sea igual, un chico, independientemente de su clase social, si tiene cierta capacidad intelectual y tenemos un buen sistema de educación, teóricamente podría tener las mismas posibilidades que un chico de clase alta. Pero si después te vas a inyectar un chip en la cabeza y uno va a tener más memoria que el otro... ahí el juego pasa a ser mucho menos justo. Hoy la justicia pasa por el Estado y la educación, pero dentro de 20 años no va a ser suficiente para superar la brecha social lo que hagas de afuera. Igual Harari plantea mucho esos temas éticos, él al final lo que dice es que tenemos que ser conscientes y trabajar en base a eso, cuidarnos de que no pase.

P: ¿Cómo se maniobra entre este "sueño" y los frenos que hay que poner? ¿Hay un límite al que no se quiera llegar?
R: Yo creo que sí hay límites, el problema es que hay países que no los van a poner, entonces la situación va a ser peor. Si todo el mundo se pone de acuerdo, si Estados Unidos y Europa ponen un límite, ¿vos estás segura de que China y Rusia lo van a respetar?

P: En absoluto. Es cuestión de ética, de valores.
R: Claro. Y no todas las culturas tienen las mismas éticas. No tengo la respuesta, creo que tenemos que ser cuidadosos y controlarnos. Todo lo que se está haciendo con la biotecnología, hasta dónde manipular la biología está bien y hasta dónde está mal, son cuestionamientos muy de fondo. Hay mucha gente que está en contra de aplicar biotecnología a los granos y otros productos. Uruguay por ejemplo es bastante contra los transgénicos, pero si no se hubiese aplicado cierta biotecnología, hoy tendríamos la mitad de la comida que hay en el mundo, o menos. A la larga, con tecnología estamos alimentando el mundo. Cuando éramos chicos creíamos que no iba a alcanzar la comida, hoy alcanza, todavía está mal distribuida, pero fabricamos comida para todo el mundo gracias a la tecnología. Ahora, siempre está el hasta dónde podemos manejar la genética de las plantas, de los animales... Es interesante, como dice Harari, Homo Deus, estamos jugando a Dios.