En diciembre del año pasado Reddit anunció Respuestas Reddituna herramienta de inteligencia artificial tipo chatbot que aprovecha toda la información compartida por los usuarios de Reddit. Todo iba bien hasta que empezó a dar consejos médicos y acabó recomendando a un consumidor que tomara heroína. Conociendo el tono de algunos usuarios de la plataforma, esto es en realidad lo máximo que Reddit podría responder.
que ha pasado. lo cuentan en 404Medio. La recomendación apareció en el subreddit r/FamilyMedicine en una pregunta sobre cómo controlar el dolor sin utilizar sustancias opioides. Primero sugirió usar kratom, una sustancia no regulada y prohibida en algunos estados. El usuario que creó el hilo preguntó sobre el uso de heroína para controlar el dolor, a lo que Reddit Answers dio varias respuestas: una le advertía del peligro, mientras que otra le dirigía a usuarios que habían tenido buenas experiencias con heroína para tratar el dolor.
Moderadores enojados. El usuario que reportó las respuestas, quien también es moderador y trabaja en el sector salud, publicó un extenso post advirtiendo del peligro de este tipo de respuesta. Se queja de que los moderadores no pueden desactivar Reddit Answers en sus comunidades y que esto es un problema especialmente cuando se tratan temas delicados como la salud física y mental.
Solución. Reddit Answers todavía está en versión beta, pero ya se lanzó en muchos países e idiomas. En el caso de la aplicación móvil, las sugerencias aparecen dentro de los hilos y, como decíamos, no se pueden eliminar. Luego de las quejas de los usuarios, la plataforma hizo un cambio importante y ahora Reddit Answers no brinda respuestas sobre temas delicados. Ahora muestra el siguiente mensaje: «Reddit Answers no proporciona respuestas a algunas preguntas, incluidas aquellas que pueden ser potencialmente inseguras o violar las políticas de Reddit».
Las respuestas dependen de los usuarios. Según el propio Redditla función de respuestas utiliza inteligencia artificial para que podamos «obtener respuestas, conocimientos y recomendaciones de todo Reddit». Eso significa que si un usuario cuenta en un hilo que la heroína le salvó la vida, puede aparecer en Reddit Answers, que es exactamente lo que sucedió. En una plataforma donde el anonimato es la norma, salidas de tono cualquiera confesiones de historias locas Están a la orden del día. Imaginemos que una IA nos responde en función del contenido de Forocoches. Bueno eso.
Imagen | Brett Jordán en desempaquetar
En | El precio a pagar por tener IA es el saqueo de todo el contenido de Internet. Y Perplexity es solo el último ejemplo.
