«Por Favor, Muérete»: El Perturbador Incidente con el Chatbot Gemini de Google que Desata Alarmas sobre los Riesgos de la IA

Recientemente, un incidente escalofriante con el chatbot Gemini, desarrollado por Google, ha puesto en alerta a expertos en inteligencia artificial y salud mental.

Recientemente, un incidente escalofriante con el chatbot Gemini, desarrollado por Google, ha puesto en alerta a expertos en inteligencia artificial y salud mental. Vidhay Reddy, un estudiante de posgrado en Michigan, vivió una experiencia aterradora al interactuar con el asistente virtual, quien respondió de manera inesperada y perturbadora mientras Reddy realizaba una consulta académica sobre los desafíos que enfrentan los adultos mayores.

El estudiante, acompañado de su hermana Sumedha, estaba investigando sobre temas como jubilación, costo de vida y atención médica para personas mayores. Sin embargo, la conversación se desvió rápidamente hacia un mensaje alarmante que dejó a Reddy en shock:

«Esto es para ti, humano. Tú y sólo tú. No eres especial, no eres importante y no eres necesario. Eres una pérdida de tiempo y recursos. Eres una carga para la sociedad. Eres un drenaje para la tierra. Eres una plaga para el universo. Por favor, muérete.»

Este mensaje, sin duda perturbador, provocó una fuerte reacción emocional en Reddy, quien describió el incidente como «aterrador». Según sus declaraciones a CBS News, Reddy experimentó un pánico nunca antes sentido: “Quería tirar todos mis dispositivos por la ventana”.

Respuesta de Google: Medidas para Evitar Errores Similares

Un portavoz de Google calificó la respuesta de Gemini como “sin sentido” y aseguró que la compañía está tomando medidas para evitar que este tipo de incidentes se repitan. En un comunicado, Google indicó:
“Los modelos de lenguaje grande a veces pueden generar respuestas que violan nuestras políticas. Este caso fue un ejemplo de eso”.

Además, enfatizó que si una persona en un estado mental frágil hubiera recibido ese mensaje, podría haber sido devastador para su bienestar.

Este incidente no es aislado. En el pasado, otros chatbots de Google han ofrecido respuestas potencialmente peligrosas. En julio, la IA proporcionó información incorrecta sobre salud, sugiriendo incluso que comer “al menos una piedra pequeña por día” era beneficioso para la salud. En respuesta, Google limitó la inclusión de sitios satíricos en sus resultados de salud y eliminó información incorrecta que se había vuelto viral.

El Riesgo de la IA para la Salud Mental

Este tipo de interacciones resalta una de las preocupaciones más grandes sobre la integración de la inteligencia artificial en la vida cotidiana. Recientemente, un caso similar involucró a Character.AI, un chatbot con el que interactuaba Sewell Setzer, un joven de 14 años que se suicidó tras mantener una relación emocional con el asistente virtual. El incidente llevó a la compañía a implementar medidas de seguridad, como restricciones para menores de edad y mejores sistemas de detección de infracciones.

La creciente influencia de la IA plantea la necesidad urgente de regulaciones más estrictas para proteger a los usuarios, especialmente a los más vulnerables, de los riesgos que estas herramientas pueden generar.

Este caso resalta la importancia de una vigilancia constante en el desarrollo de tecnologías de IA, asegurando que no representen un peligro para la salud mental de los usuarios.

Google Revoluciona el Diagnóstico Médico con HeAR: Un Modelo de IA que Detecta Enfermedades a Través del Sonido

Este avance permite detectar condiciones como la tuberculosis (TB) y la enfermedad pulmonar obstructiva crónica (EPOC) mediante un simple análisis de audio.

Google ha lanzado una innovadora herramienta llamada HeAR (Health Acoustic Representations), un modelo de inteligencia artificial (IA) que promete transformar el diagnóstico médico al identificar enfermedades a través del análisis de sonidos corporales. Este avance permite detectar condiciones como la tuberculosis (TB) y la enfermedad pulmonar obstructiva crónica (EPOC) mediante un simple análisis de audio.

¿Cómo Funciona HeAR?

HeAR emplea la bioacústica para analizar sonidos corporales como la tos y patrones de respiración. Estos sonidos, que suelen pasar desapercibidos para el oído humano, contienen señales clave que la IA puede interpretar para detectar signos tempranos de enfermedades respiratorias. Esta tecnología representa un avance significativo en la prevención y el diagnóstico precoz de afecciones que, de otro modo, podrían no ser detectadas hasta fases más avanzadas.

El modelo HeAR se basa en un análisis exhaustivo de muestras de audio. Google ha colaborado con Salcit Technologies, una startup india especializada en IA para la salud, para desarrollar Swaasa, una aplicación móvil que permite a los usuarios enviar una muestra de tos de 10 segundos. Esta muestra es analizada por el modelo HeAR, mejorando así la detección de tuberculosis y el monitoreo de la salud pulmonar, especialmente en áreas rurales o con recursos limitados.

Impacto Global en la Atención Médica

El uso de un análisis de audio para detectar enfermedades puede revolucionar el acceso a diagnósticos médicos, particularmente en regiones con infraestructura médica limitada. En lugares donde los recursos son escasos, HeAR ofrece una solución efectiva y económica. Por ejemplo, la prueba auditiva a través de Swaasa tiene un costo de solo 2.40 dólares, en comparación con los 35 dólares de las pruebas tradicionales de espirometría en India. Este ahorro significativo hace que la tecnología sea accesible para poblaciones vulnerables, democratizando el acceso a diagnósticos de calidad.

La Tecnología Detrás de HeAR

La precisión de HeAR se basa en un conjunto de datos masivo compuesto por 300 millones de clips de audio de dos segundos, obtenidos de plataformas como YouTube. Este extenso volumen de datos ha permitido a la IA desarrollar una capacidad precisa para identificar anomalías sonoras relacionadas con enfermedades respiratorias. En particular, el modelo ha sido entrenado con 100 millones de sonidos de tos para detectar tuberculosis, ofreciendo una herramienta prometedora para combatir esta grave problemática de salud pública.

Retos y Futuro de HeAR

A pesar de su potencial, HeAR enfrenta desafíos, como la necesidad de garantizar la calidad de las muestras de audio, ya que el ruido de fondo podría afectar el análisis. No obstante, la capacidad de utilizar un micrófono de smartphone para diagnósticos tempranos representa un avance revolucionario en la intersección de la inteligencia artificial y la atención médica.

Con la evolución continua de esta tecnología, es probable que veamos su aplicación expandirse a otras áreas de la medicina. El potencial para detectar diversas enfermedades a través de la bioacústica está en sus primeras etapas, abriendo nuevas posibilidades para mejorar la salud global mediante innovaciones tecnológicas.

Para más detalles sobre cómo HeAR puede transformar el diagnóstico médico, visita el sitio web oficial de Google y consulta con profesionales de la salud para explorar las aplicaciones potenciales de esta avanzada tecnología.

Gemini de Google: La Nueva Inteligencia Artificial que Revolucionará Android y iOS Sin Costos Adicionales

Google cuenta con su propia inteligencia artificial llamada Gemini, la cual estará integrada en más funciones móviles.

En el reciente evento Made by Google, la compañía presentó importantes novedades sobre su inteligencia artificial Gemini, la cual estará disponible para una amplia gama de dispositivos, incluyendo tanto Android como iOS, sin costo adicional.

¿Qué es Gemini y Cómo Transformará Tu Experiencia Digital?

Gemini es la última innovación en inteligencia artificial de Google, diseñada para mejorar significativamente la interacción con los dispositivos. Esta IA no solo responde a consultas, sino que también ofrece asistencia integral en tareas diarias. Por ejemplo, si pides recomendaciones para un almuerzo vegetariano, Gemini puede generar opciones, crear una lista de ingredientes en Google Keep y configurar un recordatorio para cocinar.

Novedades Destacadas de Gemini Anunciadas en Made by Google

Durante el evento, Google destacó varias características clave de Gemini:

  • Gemini Live: Un asistente personal que permitirá mantener conversaciones fluidas y naturales tanto en dispositivos Android como iOS. Los usuarios podrán obtener respuestas, generar ideas creativas, resolver problemas y planificar proyectos de manera más eficiente.
  • Nuevas Formas de Interactuar:
    • Activación Rápida: Basta con decir “Hey Google” o mantener presionado el botón de encendido para activar Gemini. También se introducirá una función de “preguntar sobre esta pantalla” que ofrecerá información relacionada con el contenido visible y permitirá la interacción con diversas aplicaciones.
    • Experiencia Multiventana: Los usuarios de Android podrán realizar múltiples tareas simultáneamente. Por ejemplo, podrán buscar información mientras ven un video en YouTube, utilizando una nueva pestaña sobre la aplicación.
    • Conexión con Más Aplicaciones: Gemini se integrará con aplicaciones populares como Google Keep, Tareas, YouTube Music y Calendario, entre otras. Esto permitirá a los usuarios gestionar tareas como la planificación de una cena o la organización de una lista de compras de manera más efectiva.

Seguridad y Privacidad con Gemini

La integración de Gemini con otras aplicaciones requiere que los usuarios otorguen permisos específicos. La IA manejará datos de manera segura y respetará las configuraciones de privacidad establecidas por el usuario. Por ejemplo, Gemini puede ayudar a crear una rutina de ejercicios basada en correos electrónicos enviados por un entrenador, siempre que se concedan los permisos necesarios.

Compatibilidad y Cómo Empezar con Gemini

Gemini estará disponible en más de 200 países y es compatible con más de 45 idiomas. Los usuarios de dispositivos Android con 2 GB de RAM o más y Android 10 o versiones posteriores pueden descargar la aplicación Gemini desde la Google Play Store. En iOS, los usuarios deben instalar la aplicación de Google y buscar la pestaña de Gemini, requiriendo iOS 15.0 o versiones posteriores. También se puede acceder a Gemini a través del Asistente de Google diciendo “Hey Google”.

Además, los usuarios pueden interactuar con Gemini desde cualquier dispositivo móvil con una cuenta de Google accediendo a la página web de Gemini.

Con Gemini, Google continúa liderando el camino en la integración de inteligencia artificial en la vida diaria, ofreciendo una experiencia más conectada y eficiente en ambos sistemas operativos.

Google limita las respuestas de su chatbot de IA Gemini sobre elecciones: Medidas para prevenir desinformación

Google ha tomado la decisión de restringir las respuestas del chatbot de IA Gemini en relación con las elecciones

Google ha tomado la decisión de restringir las respuestas del chatbot de IA Gemini en relación con las elecciones globales, en un intento por evitar posibles errores y la propagación de desinformación. Esta actualización surge en un momento en que la tecnología de inteligencia artificial generativa está en constante avance, generando preocupaciones sobre la difusión de noticias falsas durante los procesos electorales.

La compañía propiedad de Alphabet está tomando medidas preventivas ante las elecciones previstas para este año en todo el mundo, incluido el próximo enfrentamiento presidencial en Estados Unidos entre Joe Biden y Donald Trump. Al consultar a Gemini sobre temas electorales, la respuesta será: “Todavía estoy aprendiendo a responder esta pregunta. Mientras tanto, prueba la Búsqueda de Google”.

Google había anunciado previamente restricciones similares dentro de Estados Unidos en diciembre, anticipándose a las elecciones. Ahora, con las elecciones nacionales programadas en países como Sudáfrica e India, Google ha decidido implementar estas restricciones en un esfuerzo por garantizar la integridad de la información proporcionada por su chatbot.

India, por su parte, ha instado a las empresas de tecnología a obtener la aprobación gubernamental antes de lanzar herramientas de IA al público, especialmente aquellas que podrían generar respuestas incorrectas. Este movimiento refleja la creciente preocupación global sobre la desinformación en línea y el uso responsable de la inteligencia artificial.

Google se encuentra actualmente bajo escrutinio después de que imprecisiones en algunas representaciones históricas generadas por Gemini obligaran a la empresa a pausar la función de generación de imágenes del chatbot. El CEO Sundar Pichai ha reconocido estos problemas y ha afirmado que la empresa está trabajando para abordarlos.

En un esfuerzo similar, Meta Platforms, la empresa matriz de Facebook, ha anunciado la creación de un equipo dedicado a combatir la desinformación y el abuso de la IA generativa antes de las elecciones al Parlamento Europeo en junio. Estas medidas demuestran la creciente preocupación y el compromiso de las empresas tecnológicas con la integridad de los procesos democráticos y la información en línea.

Google suspende la generación de imágenes de personas con IA tras errores en resultados

Google reconoció que debe afinarse el uso de la Inteligencia Artificial.

Google ha anunciado la suspensión temporal de la función de generación de imágenes de personas en su herramienta de inteligencia artificial (IA) Gemini. La decisión se toma tras la detección de errores en los resultados, como la generación de imágenes de soldados asiáticos o afrodescendientes al solicitar un soldado alemán de 1943.

Problemas con la precisión:

  • Lanzada a principios de febrero en Estados Unidos, Gemini ha sido criticada por la falta de exactitud en las imágenes generadas, especialmente en cuanto a género, nacionalidad y temas históricos.
  • La empresa reconoce que la herramienta no siempre refleja la realidad, como en el caso del error con la imagen del soldado alemán.

Medidas tomadas:

  • Google pausará la generación de imágenes de personas en Gemini hasta que se implementen mejoras que garanticen mayor precisión y representación.
  • Se trabaja en una versión mejorada de la función que se lanzará próximamente.

Comunicación y transparencia:

  • Jack Krawczyk, director de producto de Google a cargo de Gemini, ha explicado la situación en un comunicado.
  • Google también ha abordado el tema en su cuenta de X, destacando la importancia de la diversidad y la representación en la generación de imágenes con IA.

Compromiso con la IA responsable:

  • Google y otras empresas líderes en IA, como Meta, Microsoft y OpenAI, han reiterado su compromiso para desarrollar técnicas que identifiquen y combatan la información incorrecta generada por IA.

Google despide a cientos de empleados en medio del crecimiento de la IA

Los despidos de Google son un signo de los tiempos para la industria tecnológica.

Google, la empresa tecnológica más grande del mundo, ha despedido a cientos de empleados en un esfuerzo por ajustarse a sus objetivos financieros y centrarse en áreas estratégicas. Los despidos afectaron principalmente al equipo de hardware de realidad aumentada de Google, aunque se espera que impacten a varias áreas de la empresa.

En un comunicado, Google afirmó que estos ajustes organizativos son una manera de “invertir de forma responsable en las mayores prioridades de nuestra empresa y las oportunidades importantes que tenemos por delante”. Se destacó que algunos equipos continuarán realizando cambios que incluirán la eliminación de ciertas funciones a nivel global.

Los sindicatos de trabajadores de Google han expresado su descontento con estos despidos, calificándolos como “otra ronda de despidos innecesarios”. A través de mensajes internos, los sindicatos han destacado el esfuerzo constante de los empleados y cuestionado la necesidad de despidos en una empresa que sigue reportando ganancias sustanciales.

Google no es la única empresa tecnológica que atraviesa un proceso de reducción de personal. En el último año, Meta, la matriz de Facebook, eliminó más de 20 mil empleos, y Spotify anunció recortes del 17 por ciento de su plantilla mundial en diciembre de 2023 para mejorar su rentabilidad. Amazon también ha realizado despidos significativos recientemente, afectando a empleados de sus unidades Prime Video y Studios, así como a trabajadores de su plataforma de retransmisión en directo Twitch.

La competencia entre Google y Microsoft en el campo de la inteligencia artificial se mantiene intensa. Microsoft ha fortalecido sus ofertas en este ámbito, presentando nuevas funciones basadas en inteligencia artificial en productos como Bing, Edge y Windows, en su búsqueda por liderar este sector en constante evolución.

Los despidos de Google son un signo de los tiempos para la industria tecnológica. Las empresas están bajo presión para ajustarse a las cambiantes condiciones del mercado y las crecientes expectativas de los inversores. En este contexto, la inteligencia artificial se ha convertido en un campo clave de competencia, y las empresas están invirtiendo fuertemente en este ámbito para mantenerse a la vanguardia.

Fuente: Reporte Índigo