Las críticas de Marcos Galperin a “alucinaciones” del ChatGPT y el freno que pide Musk

Marcos Galperin, fundador de MercadoLibre y uno de los referentes de la industria tecnológica en América Latina, fue crítico esta semana con el ChatGPT, en un conjunto de mensajes donde señaló las “alucinaciones muy peligrosas” de la herramienta de inteligencia artificial.

Galperin, CEO de MercadoLibre, contó a través de su cuenta de Twitter que utilizó el ChatGPT 4, donde consultó sobre su carrera profesional, pero afirmó que la herramienta le devolvió un conjunto de errores, como que había trabajado en Boston Consulting Group y como director en Aerolíneas Argentinas, y del Banco Comafi.

“El problema es que excepto la gente que me conoce muy bien, muy pocos sabrían reconocer los errores de lo correcto en lo que dijo de mí. Cuando le consultamos por temas que no somos expertos y que son importantes, como temas de salud, esta alucinaciones pueden ser muy peligrosas”, afirmó Galperin en un siguiente mensaje.

El problema es que excepto la gente que me conoce muy bien, muy pocos sabrían reconocer los errores de lo correcto en lo que dijo de mí. Cuando le consultamos por temas que no somos expertos y que son importantes, como temas de salud, esta alucinaciones pueden ser muy peligrosas.

— Marcos Galperin (@marcos_galperin) March 28, 2023

Este jueves, el fundador de MercadoLibre volvió sobre el asunto, y reiteró que ChatGPT “tiene alucinaciones e inventa hechos que suenan totalmente creíbles”.

En su mensaje, Galperin citó explicaciones donde se argumenta que el ChatGPT está basado en un modelo de lenguaje que asigna una probabilidad sobre las secuencias de palabras.

La carta que firmó Elon Musk

Elon Musk y cientos de expertos en tecnología firmaron el miércoles un llamado a hacer una pausa de seis meses en la investigación sobre inteligencias artificiales (IA) más potentes que ChatGPT 4, el modelo de OpenAI lanzado este mes, al advertir de “grandes riesgos para la humanidad”.

En la petición publicada en el sitio futureoflife.org, piden una moratoria hasta que se establezcan sistemas de seguridad con nuevas autoridades reguladoras, vigilancia de los sistemas de IA, técnicas que ayuden a distinguir entre lo real y lo artificial, e instituciones capaces de hacer frente a la “dramática perturbación económica y política (especialmente para la democracia) que causará la IA”.

La firman personalidades que han expresados sus temores sobre una IA incontrolable que supere a los humanos, como Musk, dueño de Twitter y fundador de SpaceX y Tesla, y el historiador Yuval Noah Hariri.

Entre los firmantes también figuran el cofundador de Apple, Steve Wozniak, miembros del laboratorio de AI DeepMind de Google, el director de Stability AI, Emad Mostaque, así como expertos y académicos estadounidenses de IA e ingenieros ejecutivos de Microsoft, empresa aliada de OpenAI.

El director de Open AI, que diseñó ChatGPT, Sam Altman, ha reconocido tener “un poco de miedo” de que su creación se utilice para “desinformación a gran escala o ciberataques”.

“La empresa necesita tiempo para adaptarse”, declaró recientemente a ABCNews.

“En los últimos meses hemos visto cómo los laboratorios de IA se han lanzado a una carrera descontrolada para desarrollar y desplegar cerebros digitales cada vez más potentes que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de manera fiable”, afirman.

“¿Debemos permitir a las máquinas inundar nuestros canales de información con propaganda y mentiras? ¿Debemos automatizar todos los trabajos, incluidos los gratificantes? (...) ¿Debemos arriesgarnos a perder el control de nuestra civilización? Estas decisiones no deben delegarse en líderes tecnológicos no electos”, concluyeron.

Con información de AFP.