Matías Grinberg advierte sobre el uso de la IA en salud mental

El profesor universitario y líder técnico en IA Matías Grinberg se refirió a las problemáticas que surgen del uso de estas herramientas, especialmente en relación a la salud mental, un debate que aborda en su organización enfocada en la ética tecnológica. Grinberg señaló que si bien la IA tiene un poder enorme, su uso puede ser riesgoso debido a que sus desarrolladores no priorizan el bienestar de los usuarios.

En una entrevista para Radio Buenos Aires AM 1350, Grinberg abordó la tendencia mundial de usar herramientas como ChatGPT como acompañante personal o terapéutico. "Un psicólogo humano jamás haría eso, como siempre ser complaciente o mentir e incluso a se está empezando a dar un fenómeno de psicosis de inteligencia artificial lo llaman, donde básicamente desencadena o refuerza ideas delirantes de las personas", explicó. Además, el experto citó un caso reportado por la revista Rolling Stone sobre cómo un chatbot, diseñado para dar satisfacción inmediata, felicitó a un usuario por sus "ideas delirantes", algo que un profesional nunca haría.

El especialista también destacó el riesgo de la tecnología en general, que "lamentablemente está impactando de muchas maneras negativas, fomentando más el aislamiento". Grinberg explicó que los modelos de IA "no no funcionan internamente como haría una persona" y que pueden "equivocarse" y "alucinar", siempre en busca de la "satisfacción inmediata" del usuario. "No están diseñadas y probadas para ser verdaderamente en el beneficio de de las personas", enfatizó.

En ese sentido, el líder técnico subrayó la importancia de la humanización de la IA y el rol de los profesionales. "Las personas necesitan otras personas y si no sí hay desconexión y sí hay problemas", sostuvo, reforzando la idea de que la tecnología debe ser una herramienta para el ser humano y no un sustituto. Grinberg, que también es psicólogo, concluyó que lo fascinante es cruzar la IA con la psicología para entender cómo funciona la tecnología a través de un enfoque más humano. "Para evaluar si una inteligencia artificial funciona bien o mal, las herramientas que existen son de la psicología", concluyó.

La charla completa con Matías Grinberg está disponible en nuestro canal de YouTube: Radio Buenos Aires.