Tabla de contenidos
¿Alguna vez te has preguntado si las respuestas generadas por las inteligencias artificiales pueden tomarse al pie de la letra, especialmente cuando se trata de tu salud? Imagina hacer una pregunta crítica sobre un síntoma preocupante y recibir una respuesta potencialmente peligrosa. Esta es la alarmante situación que enfrentan los usuarios de Google Chrome con la funcionalidad AI Overviews. Descubre cómo reacciona Google ante este gran desafío.
Las 3 cosas que no debes perderte
Google Chrome ha introducido AI Overviews, una funcionalidad que permite a los usuarios obtener respuestas generadas por la inteligencia artificial Gemini durante sus búsquedas. Aunque esta innovación ya se ha implementado en países como Estados Unidos y el Reino Unido, sigue estando indisponible en Francia. La intención es proporcionar información rápidamente, incluso antes de mostrar los resultados tradicionales.
The Guardian ha señalado un problema importante: las respuestas generadas por AI Overviews sobre la salud pueden ser no solo inexactas, sino también peligrosas. Por ejemplo, se ha señalado un consejo erróneo sobre la alimentación de pacientes con cáncer de páncreas. Este es solo un ejemplo entre otros, que también involucra enfermedades hepáticas.
Pamela Healy, directora de la asociación British Liver Trust, advierte sobre la banalización de síntomas que podrían ser gravemente interpretados por los usuarios. La difusión de información incorrecta, especialmente en materia de salud, representa un peligro público.
Tras la investigación realizada por The Guardian, TechCrunch intentó verificar las afirmaciones realizando las mismas búsquedas. Los resultados de IA incriminados habían sido retirados. Google indicó que realiza mejoras regulares en sus funcionalidades, sin embargo, no comentó directamente sobre estas eliminaciones.
Este problema plantea la cuestión de la fiabilidad de la información médica obtenida en línea, recordando que consultar a profesionales de la salud sigue siendo indispensable.
Google, fundado en 1998 por Larry Page y Sergey Brin, se ha convertido en un actor importante en tecnología e información. Con productos destacados como su motor de búsqueda y su navegador Chrome, la empresa siempre ha buscado facilitar el acceso a la información. Sin embargo, el incidente con AI Overviews destaca los desafíos inherentes a la automatización del conocimiento, especialmente en áreas tan sensibles como la salud pública.
Al integrar la inteligencia artificial en sus servicios, Google busca adelantarse a las necesidades de los usuarios, pero también debe garantizar la veracidad y seguridad de la información proporcionada. El caso subraya la importancia de una supervisión humana en los procesos automatizados, especialmente cuando está en juego la salud de los usuarios.