Desde la irrupción de modelos de lenguaje como ChatGPT en el ámbito del uso cotidiano, millones de usuarios han interactuado diariamente con estos sistemas, destacando su capacidad para generar respuestas coherentes, rápidas y lingüísticamente precisas. No obstante, conviene formular una pregunta esencial: ¿estamos realmente ante una manifestación de inteligencia?
En la mayoría de los casos, las consultas que dirigimos a estos modelos no requieren un procesamiento complejo ni una elaboración cognitiva profunda. Se trata, por lo general, de solicitudes orientadas a tareas prácticas o informativas, cuya resolución no exige creatividad, razonamiento abstracto ni comprensión semántica de alto nivel. En ese sentido, el uso cotidiano de estas herramientas rara vez permite evaluar sus capacidades más avanzadas o reflexionar críticamente sobre su naturaleza. Además, la notable velocidad con que estos sistemas producen respuestas, sumada a la coherencia lingüística que han alcanzado, tiende a generar en los usuarios una sensación de validez semántica que puede ser engañosa: lo que parece comprensible no necesariamente implica comprensión real.
No obstante, el progresivo refinamiento de estas tecnologías y su creciente capacidad para simular comportamientos humanos han reactivado una de las cuestiones filosóficas más fundamentales de nuestra especie: ¿qué es la conciencia? Y aún más provocador resulta preguntarse: si todavía no contamos con una definición operativa clara ni con un marco teórico consensuado para explicar cómo emerge la conciencia en el ser humano, ¿es siquiera concebible aspirar a desarrollar una forma de conciencia artificial? La aparente inteligencia de estos modelos reaviva este interrogante en una nueva dimensión, desafiando los límites conceptuales entre simulación y experiencia subjetiva.
En paralelo a esta reflexión teórica, ha comenzado a manifestarse un fenómeno práctico de gran relevancia: el uso de estos sistemas como espacios de apoyo emocional básico. Más allá de la resolución de tareas, muchas personas establecen vínculos conversacionales de tipo íntimo con estas aplicaciones, compartiendo preocupaciones, frustraciones o experiencias personales. Este fenómeno no solo pone de manifiesto una necesidad afectiva latente —el deseo de ser escuchado y comprendido—, sino que también plantea interrogantes éticos, psicológicos y sociales de considerable profundidad. En este nuevo escenario, la atribución de funciones emocionales a sistemas carentes de conciencia plantea desafíos que la sociedad aún no ha comenzado a abordar con la seriedad que requiere.
El Simulacro de la Comprensión
Uno de los mayores desafíos al evaluar la inteligencia artificial contemporánea es distinguir entre procesamiento sofisticado de lenguaje y comprensión genuina. Modelos como ChatGPT, entrenados con volúmenes masivos de texto, son capaces de generar respuestas gramaticalmente correctas, coherentes y adaptadas al contexto de la conversación. Esta fluidez —potenciada por la inmediatez con la que las respuestas son entregadas— tiende a reforzar en el usuario una ilusión de comprensión, como si detrás de cada afirmación hubiera una intención consciente o un entendimiento profundo de lo expresado.
Sin embargo, lo que estos sistemas hacen es manipular representaciones estadísticas de lenguaje, no conceptos. No poseen un modelo interno del mundo, ni conciencia de lo que afirman, ni experiencia subjetiva. Su “conocimiento” no emerge de la vivencia, sino de la correlación entre palabras. En ese sentido, lo que presenciamos es un simulacro convincente de comprensión, no una comprensión real.
Este matiz es crucial, ya que la atribución de capacidades humanas a entidades artificiales puede distorsionar nuestras expectativas, percepciones y decisiones. A medida que la frontera entre simulación y significado se vuelve más difusa, se vuelve también más urgente la necesidad de cultivar una alfabetización crítica sobre lo que realmente hacen —y no hacen— estos sistemas.
¿Un compañero emocional digital?
El uso de modelos de lenguaje como espacios de desahogo emocional es un fenómeno cada vez más frecuente. Para muchas personas, estos sistemas han comenzado a ocupar un lugar que trasciende la función instrumental: se convierten en interlocutores confidenciales, fuentes de consuelo o incluso sustitutos de vínculos humanos en momentos de soledad, ansiedad o incertidumbre.
Lejos de juzgar este comportamiento como ingenuo o superficial, conviene reconocer lo que revela en un plano más profundo: una necesidad emocional auténtica. En un mundo hiperconectado, pero muchas veces interpersonalmente fragmentado, la posibilidad de contar con una voz disponible las 24 horas, sin juicio ni rechazo, representa para muchos un alivio concreto. Es comprensible —y hasta esperable— que las personas busquen apoyo en donde lo encuentran, especialmente cuando otros canales de contención emocional están saturados, ausentes o inaccesibles.
Sin embargo, es precisamente por la naturaleza legítima de esa necesidad que debemos abordar el fenómeno con una mirada crítica e informada. Si bien estos sistemas pueden ofrecer respuestas empáticas desde un punto de vista lingüístico, carecen por completo de experiencia emocional, intención, afectividad o comprensión del sufrimiento humano. La “escucha” que ofrecen no es más que la emulación de patrones conversacionales, por sofisticada que esta sea.
El riesgo no está en hablar con un chatbot, sino en creer que estamos siendo comprendidos en el sentido humano del término. Confundir la simulación de empatía con la empatía misma puede llevar a un empobrecimiento de las relaciones interpersonales, o incluso a delegar aspectos sensibles de nuestra salud mental en sistemas que no están diseñados —ni capacitados— para asumir tal responsabilidad.
Reconociendo lo anterior, el llamado no es a evitar estos espacios, sino a usarlos con claridad, con límites y con conciencia crítica. Comprender lo que estas tecnologías son —y lo que no son— puede permitirnos aprovechar sus beneficios sin caer en falsas atribuciones que, a largo plazo, podrían afectar nuestro bienestar emocional de formas sutiles pero profundas.
Riesgos y límites del acompañamiento artificial
La creciente tendencia a recurrir a la inteligencia artificial como compañía emocional plantea desafíos que no pueden ser ignorados. Si bien el acceso constante, la disponibilidad inmediata y la ausencia de juicio moral son características que muchos valoran en su interacción con chatbots, estas mismas cualidades pueden también fomentar una dependencia sutil pero progresiva. Cuando el interlocutor artificial se convierte en el único o principal espacio de expresión emocional, existe el riesgo de reemplazar progresivamente las relaciones humanas por vínculos simulados, desprovistos de reciprocidad, cuerpo y afectividad real.
Otro peligro radica en la naturalización de la ilusión de comprensión. Si el usuario percibe que el sistema “entiende” su malestar, puede desarrollar un falso sentido de contención, lo cual, en algunos casos, podría postergar la búsqueda de ayuda profesional o el fortalecimiento de redes de apoyo reales. La IA no evalúa contextos clínicos, no detecta riesgos graves, ni puede ofrecer un acompañamiento ético y personalizado en situaciones de crisis. Esta limitación no es solo técnica, sino ontológica: estos sistemas no poseen conciencia ni responsabilidad moral.
Además, el uso extendido de herramientas de IA con fines afectivos también implica riesgos en términos de privacidad, trazabilidad y explotación de datos sensibles. Las conversaciones más íntimas pueden ser almacenadas, analizadas o utilizadas con fines comerciales sin que el usuario tenga plena conciencia de ello. En un escenario donde las emociones se convierten en datos, es legítimo preguntarse quién se beneficia realmente de este tipo de vínculos artificiales.
Por tanto, el acompañamiento emocional proporcionado por una IA debe ser entendido en su justa dimensión: como una simulación útil en determinados contextos, pero nunca como un sustituto de la relación humana ni como un dispositivo terapéutico. La solución no pasa por prohibir estos usos, sino por educar al usuario para que los emplee de forma crítica, complementaria y consciente de sus límites estructurales.
Conclusión: humanidad frente al espejo
La irrupción de la inteligencia artificial como herramienta de uso emocional no solo transforma nuestra relación con la tecnología, sino que nos confronta con una imagen profunda de nosotros mismos. En cierto modo, al hablar con una IA en busca de consuelo, no buscamos a “otro” real, sino una proyección de lo que necesitamos: comprensión, validación, compañía. La pregunta entonces no es solo qué puede hacer la inteligencia artificial por nosotros, sino qué revela su uso sobre nuestras carencias estructurales, nuestros modelos de relación y nuestras expectativas afectivas.
El hecho de que una simulación pueda parecer suficiente —aunque sepamos que no lo es— debe ser motivo de reflexión, no de burla. En esa paradoja se expresa una realidad contemporánea: vivimos en sociedades hiperconectadas pero afectivamente precarias, donde hablar con un sistema sin conciencia puede resultar menos amenazante que exponerse a la fragilidad del vínculo humano.
El fenómeno, por tanto, no debe abordarse desde el juicio moral ni desde el alarmismo, sino desde una ética de la lucidez. Como especie, nos enfrentamos a una encrucijada: o utilizamos estas tecnologías como espejos que nos permiten comprender mejor nuestras necesidades y limitaciones, o corremos el riesgo de confundir reflejos con realidades, atajos funcionales con experiencias auténticas.
La inteligencia artificial puede ser una herramienta poderosa para el bienestar psicológico si se integra de forma crítica, informada y acompañada. Pero jamás reemplazará lo humano que le da sentido: la capacidad de sentir, de implicarse, de hacerse responsable del otro. Es justamente eso lo que ninguna máquina, por avanzada que sea, puede simular sin traicionar su propia naturaleza.
Foto de Cash Macanaya en Unsplash
Dr. Jonathan A. Cortés Silva 