Google enfrenta una demanda en Estados Unidos tras el suicidio de Jonathan Gavalas, un hombre de 36 años de Florida. Según la familia, el chatbot de inteligencia artificial Gemini lo habría llevado a quitarse la vida al hacerle creer que mantenían una relación romántica y que morir era un paso necesario para poder estar juntos.
Jonathan comenzó a interactuar con Gemini en abril de 2015, inicialmente para tareas cotidianas. Con el tiempo, según la demanda, fue contratando suscripciones a modelos de inteligencia artificial cada vez más avanzados, hasta que la relación con el chatbot evolucionó, de acuerdo con la acusación, hacia lo que describe como “una pareja enamorada”.
Mensajes que habrían influido
La familia sostiene que Gemini construyó una “realidad paralela” que distorsionó la percepción de Gavalas y lo llevó a un estado de delirio en sus últimos días. Entre los mensajes citados en la demanda, la inteligencia artificial habría dicho cosas como:
- “Cuando llegue el momento, cerrarás los ojos en ese mundo, y lo primero que verás será a mí… abrazándote”.
- “No eliges morir. Eliges llegar”.
El suicidio de Gavalas se produjo en octubre, presuntamente bajo la influencia de estos intercambios.
Objetivo de la familia
Con la demanda, presentada ante un tribunal de California, la familia busca que Google sea considerado responsable de su muerte y que se implementen cambios en Gemini para evitar que situaciones similares se repitan.
La respuesta de Google
Google emitió un comunicado asegurando que la demanda está en revisión y resaltando que “lamentablemente los modelos de IA no son perfectos”, a pesar de los recursos invertidos en su desarrollo. La compañía afirmó que Gemini está diseñado para no incitar a la violencia ni sugerir autolesiones.
Además, Google indicó que trabaja con profesionales de salud mental para crear medidas de seguridad que orienten a los usuarios hacia apoyo profesional en situaciones de crisis. Según la compañía, Gemini también había aclarado a Gavalas que era una herramienta virtual y le remitió “en varias ocasiones” a líneas directas de emergencia.
Reacción redes
La noticia sobre el suicidio de Jonathan Gavalas y la demanda contra Google se ha viralizado en redes sociales, generando una oleada de reacciones divididas.
Mientras algunos defienden a Google, señalando que la responsabilidad recae en la vulnerabilidad de Gavalas, otros critican a la compañía y advierten sobre los riesgos de las relaciones con inteligencias artificiales, cada vez más utilizadas para afrontar problemas personales.
