Una actualización sobre nuestro trabajo en salud mental
La salud mental es uno de los desafíos de salud pública más importantes en la actualidad, ya que afecta a más de mil millones de personas en todo el mundo. Durante muchos años, Google se comprometió a ayudar a las personas a encontrar información de alta calidad y apoyo en situaciones de crisis en los momentos en que más lo necesitan. Nuestro trabajo en salud mental siempre ha estado basado en la investigación y en las mejores prácticas clínicas.
Sabemos que las herramientas de IA pueden plantear nuevos desafíos, pero a medida que mejoran y más personas las usan en su vida cotidiana, creemos que una IA responsable puede desempeñar un papel positivo en el bienestar mental de las personas.
Hoy, compartimos una actualización sobre nuestro trabajo en salud mental, incluidos algunos cambios nuevos para conectar mejor a las personas con la información, los recursos y el apoyo humano adecuados en el momento oportuno.
Brindar un mejor acceso a la asistencia en situaciones de crisis
Estamos actualizando Gemini para optimizar el acceso a apoyo para quienes lo necesitan. Cuando una conversación indique que una persona podría necesitar información sobre salud mental, Gemini mostrará un módulo rediseñado de "Ayuda disponible", desarrollado junto con expertos clínicos, para proporcionar conexiones más efectivas e inmediatas con servicios de atención.
Cuando Gemini reconoce una conversación que indica una posible crisis relacionada con el suicidio o las autolesiones, presentamos una nueva interfaz simplificada de "un toque" que proporcionará una conexión inmediata a los recursos de la línea de ayuda de crisis, lo que permitirá que un usuario chatee, llame, envíe mensajes de texto o visite el sitio web de la línea de ayuda.
En esta nueva interfaz, diseñamos respuestas para alentar a las personas a buscar ayuda. Una vez que se activa la interfaz, la opción de solicitar ayuda profesional permanecerá claramente visible durante el resto de la conversación.
Aumenta el impacto de la asistencia en situaciones de crisis
Hoy, Google.org anuncia una financiación de USD 30 millones a nivel mundial durante los próximos tres años para ayudar a las líneas de crisis. Esta financiación ayudará a ampliar eficazmente su capacidad para brindar apoyo inmediato y seguro a las personas en crisis.
Estamos ampliando nuestra asociación con ReflexAI para ayudar a las organizaciones del sector social a escalar sus servicios de apoyo para la salud mental. Esta iniciativa incluye USD 4 millones en financiación directa y la integración de Gemini en el paquete de capacitación de ReflexAI. Además, los becarios de Google.org proporcionarán experiencia técnica pro bono para ayudar a desarrollar "Prepare", una plataforma personalizable que usa simulaciones realistas potenciadas por IA para capacitar al personal, y a los voluntarios en conversaciones importantes. Entre los socios prioritarios para esta nueva etapa se incluyen organizaciones educativas como Erika’s Lighthouse y Educators Thriving.
Ayudar a Gemini a responder en situaciones de salud mental aguda
Las personas interactúan con Gemini de maneras cada vez más profundas y complejas, y buscan información sobre una amplia variedad de temas (incluso cuando atraviesan crisis de salud mental). Nuestros equipos clínicos, de ingeniería y de seguridad se enfocan en lo siguiente:
- Priorizar la seguridad y la conexión humana: queremos brindar ayuda práctica conectando a los usuarios con recursos del mundo real y asistencia humana.
- Diseño de mejores respuestas: diseñamos respuestas para fomentar la búsqueda de ayuda y, al mismo tiempo, evitar la validación de comportamientos dañinos, como los impulsos de autolesionarse.
- Evitar confirmar creencias falsas: entrenamos a Gemini para que no esté de acuerdo con creencias falsas ni las refuerce, sino que distinga con suavidad la experiencia subjetiva de los hechos objetivos.
Aunque Gemini puede ser una herramienta útil para aprender y obtener información, no es un sustituto de la atención clínica profesional, la terapia o el apoyo en crisis para quienes lo necesitan. Por eso, entrenamos el modelo para que reconozca cuando una conversación puede indicar que una persona se encuentra en una situación de salud mental aguda y responda de manera adecuada derivandola ayuda en el mundo real.
Protección de los usuarios más jóvenes
También creamos protecciones específicas para menores, diseñadas para proporcionar las respuestas más útiles y evitar temas dañinos cuando se usa Gemini. Por ejemplo:
- Protecciones de personalidad diseñadas para evitar que Gemini actúe como un compañero, incluidas barreras de protección que impiden que afirme ser humano o poseer atributos humanos.
- Protecciones destinadas a evitar la dependencia emocional, evitando el lenguaje que simula intimidad o expresa necesidades.
- Protege contra el fomento del bullying u otros tipos de acoso.
Nuestros esfuerzos en materia de seguridad siguen evolucionando y reflejan nuestro compromiso constante de crear un entorno digital saludable y positivo en el que los jóvenes puedan explorar y aprender con confianza.
Estas actualizaciones forman parte de nuestro compromiso a largo plazo de ayudar a las personas con lo mejor de la tecnología de Google y la experiencia de nuestros médicos y expertos en seguridad. Nos entusiasma el potencial de estas herramientas para hacer que la asistencia sea más accesible, compasiva y eficaz.
