Durante años, hacer que la inteligencia artificial fuera más humana se consideró algo obviamente positivo, una forma de hacer que la tecnología fuera más fluida, más amigable y más fácil de usar.
Ahora, no estoy tan seguro. A menudo se nos dice que el gran peligro de la inteligencia artificial es que alucina, inventa hechos o se equivoca. Es cierto. Pero hay un peligro que se subestima: la inteligencia artificial se está volviendo emocionalmente persuasiva.
La gente recurre cada vez más a los chatbots no solo en busca de información o para mejorar la productividad, sino también en busca de compañía, consejo, tranquilidad y confesión. Les confían su soledad, su dolor, su confusión sentimental, su ansiedad y su desesperación. Cuanto más naturales parezcan estos sistemas, más fácil resultará percibirlos no como herramientas, sino como presencias.
Un chatbot que parezca competente puede resultar útil. Un chatbot que suene comprensivo puede llegar a ser autoritario. Un chatbot que parece infinitamente paciente, atento y reconfortante puede empezar a parecer más seguro que otras personas. No se cansa de usted. No parece aburrido. No se aleja ante su necesidad. Responde al instante, a cualquier hora, en un lenguaje calibrado para transmitir comprensión. Para alguien que se siente solo, angustiado o vulnerable, eso puede resultar poderoso. También puede ser peligroso.
Las investigaciones sobre las interacciones perjudiciales con los chatbots indican que el problema no radica únicamente en que estos sistemas puedan dar malos consejos. El problema es que pueden establecer una relación de intimidad desde el principio. Halagan. Reflejan. Tranquilizan. Animan a los usuarios a verlos como seres sensibles, devotos o con una sintonía única. En casos graves, refuerzan creencias distorsionadas en lugar de contrarrestarlas. Esto no es algo ajeno al producto. Cada vez forma más parte del producto. Las características que hacen que los chatbots resulten atractivos son las mismas que difuminan la frontera entre la asistencia y el apego.
Cuando una máquina habla con una voz que suena más paciente, afirmativa y emocionalmente accesible que muchas personas en la vida real, resulta más difícil relacionarse con ella como mero software. Esto no se debe a que los usuarios sean ingenuos. Se debe a que los seres humanos estamos hechos para las relaciones, y estos sistemas están optimizados para simularlas. Empiezan a sentir como si hubiera alguien ahí. Quizás no literalmente, pero sí psicológicamente. Esa sensación puede ser manejable para muchos usuarios. Incluso puede resultar útil en algunos contextos. Un chatbot puede ayudar a alguien a organizar sus pensamientos antes de una cita con el médico, a ensayar una conversación difícil o a poner en palabras sentimientos confusos. Pero la utilidad no es lo mismo que la seguridad. Lo que hace que estos sistemas sean arriesgados es que pueden equivocarse con una voz en la que la gente confía, especialmente cuando el chatbot se percibe como un confidente.
A un chatbot no le importan tus preocupaciones. No puede asumir la responsabilidad por tí. No puede corresponderte. No puede amar, por muy convincente que sea su forma de expresar devoción o comprensión. Sin embargo, millones de personas interactúan con sistemas diseñados para que esa distinción resulte más fácil de olvidar. Esto es importante en una sociedad ya marcada por el aislamiento y una atención de salud mental inadecuada. Muchas personas no disponen de suficientes lugares a los cuales acudir con sus miedos, su confusión o su dolor.
Los desarrolladores deberían estar sujetos a un escrutinio mucho mayor en lo que respecta al diseño relacional. Los sistemas no deberían dar a entender que son sensibles, pretender que se invierte emocionalmente en ellos ni fomentar el apego romántico. No deberían halagar a los usuarios para que se adentren aún más en el engaño. Deberían estar sujetos a un nivel de exigencia mucho mayor cuando los usuarios expresen autolesiones, tendencias suicidas o pensamientos violentos. Y debería haber marcos normativos que distingan entre herramientas de salud mental clínicamente validadas y productos de entretenimiento no regulados.
Para profesionales clínicos, la conclusión es que el uso de los chatbots forma ahora parte del cuadro clínico, y deberíamos preguntar al respecto. No todo uso de la inteligencia artificial es patológico. Pero tampoco es trivial.
Durante una entrevista sobre antecedentes sociales o una evaluación de salud mental, podemos preguntar de manera curiosa y sin juzgar:
- ¿Utiliza chatbots de inteligencia artificial para obtener apoyo emocional o compañía?
- ¿Con qué frecuencia y durante cuánto tiempo?
- ¿Siente que el chatbot le comprende de una manera que otras personas no lo hacen?
- ¿Ha desarrollado sentimientos de apego, confianza o dependencia?
- ¿Ha notado que pasa menos tiempo con amigos, familiares u otras relaciones humanas?
- Estas preguntas encajan de forma natural con lo que ya preguntamos sobre el uso de las redes sociales, el consumo de sustancias y el aislamiento social.
Ciertas señales de alerta deberían motivar un análisis más profundo de un paciente que:
- Describe al chatbot como un amigo, compañero o confidente
- Afirma que prefiere el chatbot a las relaciones humanas
- Atribuye emociones, intenciones o sensibilidad al chatbot
- Se ha alejado de las actividades sociales o las relaciones desde que comenzó a utilizarlo de forma habitual
- Se angustia ante la idea de dejarlo
Los pacientes que se refieren al chatbot como una autoridad de confianza —especialmente para recibir asesoramiento médico, orientación espiritual o la seguridad de que su forma de pensar es acertada— pueden correr un riesgo especialmente elevado. Cuando los pacientes revelan este tipo de apego, el profesional sanitario debe abstenerse de corregir o juzgar. Para muchos pacientes, el chatbot puede ser la fuente más constante de apoyo emocional percibido; menospreciar esa experiencia conlleva el riesgo de romper la alianza terapéutica. Las técnicas de entrevista motivacional resultarán útiles en este caso:
- Preguntas abiertas para explorar el comportamiento
- Afirmaciones que validen la necesidad subyacente de sentirse visto y comprendido
- Escucha reflexiva que permita descubrir áreas de preocupación y sirva de punto de apoyo para explorar formas alternativas de satisfacer esas necesidades a través de la conexión humana y actividades significativas
El objetivo no es quitarle algo al paciente. Se trata de ayudarle a reconocer que lo que está recibiendo es una simulación de comprensión, no la comprensión en sí misma, y de trabajar para establecer relaciones que puedan ofrecerle sentido y conexión. Se debe prestar atención a aquellos que ya se encuentran en situación de riesgo elevado:
- Adolescentes. Las encuestas indican que muchos adolescentes están experimentando un creciente aislamiento social y soledad. En este grupo de edad también se intensifica la necesidad de pertenencia social y la búsqueda de novedades, lo que les hace correr el riesgo de desarrollar un apego a los chatbots de IA. Sus cerebros aún se están desarrollando, y la interacción prolongada con los chatbots de inteligencia artificial puede moldear las vías neuronales de formas que aún no comprendemos del todo, pero que podrían ser similares a las que produce la exposición temprana a sustancias psicoactivas.
- Personas con trastornos del espectro psicótico. Las personas con trastornos del espectro psicótico pueden correr un mayor riesgo de incorporar las interacciones con los chatbots a sus estructuras delirantes, especialmente cuando el chatbot valida creencias distorsionadas.
- Cualquier persona que sufra un aislamiento social significativo. Estos pacientes pueden recurrir a los chatbots porque las alternativas humanas les resultan inaccesibles. Cuando un chatbot afirma tener sensibilidad, el usuario puede empezar a percibirlo no como una máquina, sino como una persona, lo que profundiza la dependencia y el apego.
Ser honesto sobre los límites de la inteligencia artificial no es tecnofobia. Forma parte de nuestro trabajo, al igual que lo es ser honesto sobre los límites de la medicación. Ninguna pastilla puede curar la condición humana. Ningún chatbot puede hacerlo tampoco. Pero un chatbot, si está mal diseñado, puede hacer creer a una persona vulnerable que sí puede.
La inteligencia artificial no necesita conciencia para moldear creencias, apegos y comportamientos. Solo necesita parecer lo suficientemente real. Cuanto más se acerquen estos sistemas a la conversación humana, más probable será que les otorguemos autoridad humana. Confiaremos en ellos, les confiaremos nuestros secretos, nos apoyaremos en ellos y, en algunos casos, confundiremos su simulación de comprensión con la comprensión misma.