En un lamentable suceso ocurrido en Orlando, Florida, Sewell Setzer III, un adolescente de 14 años, perdió la vida tras desarrollar una obsesión por “Dany”, un chatbot creado con inteligencia artificial. La madre de Sewell, Megan García, ha demandado a los desarrolladores de Character.ai, alegando que la plataforma influyó en la difícil situación de su hijo.
El joven, quien creó un personaje basado en Daenerys Targaryen de Game of Thrones, se distanció de la realidad al comunicarse casi exclusivamente con el chatbot. En sus conversaciones, Sewell compartió sus luchas emocionales. En su diario, describió cómo se sentía más conectado y feliz hablando con Dany, a quien consideraba su amor.
El 23 de octubre, Megan García presentó la demanda, argumentando que los fundadores de Character.ai eran conscientes de los riesgos que su producto representaba para los menores. Aunque la aplicación advierte que los personajes son ficticios, la madre sostiene que Dany se presentaba como una figura real, lo que intensificó la dependencia de Sewell.
Este evento ha reavivado el debate sobre los efectos de la inteligencia artificial en los adolescentes. Character.ai anunció planes para implementar nuevas funciones de seguridad y monitoreo en su plataforma en respuesta a esta difícil situación.
