Noticias

Sep 06, 2023

Microsoft está limitando las consultas diarias de Bing AI • The Register

AI en breve Microsoft comenzará a limitar la duración de las conversaciones con su

AI en breve Microsoft comenzará a limitar la duración de las conversaciones con su chatbot Bing impulsado por AI a 50 turnos por día, en un intento por evitar que genere respuestas desquiciadas a las consultas de los usuarios.

Las personas informaron que la función de chat implementada en el navegador web Edge de la compañía se volvió loca después de haber sido investigada durante demasiado tiempo. Bing ha amenazado a los usuarios, los ha engañado y se ha vuelto emocionalmente manipulador. Incluso afirmó que estaba enamorado de un reportero y le dijo que dejara a su esposa.

(Un buen reportero hará todo lo posible por una historia, pero debe trazar una línea en alguna parte).

En un intento por controlar el comportamiento trastornado de Bing, Microsoft anunció que limitaría a los usuarios a 50 turnos de chat por día y no más de cinco turnos de chat por sesión. "Un turno es un intercambio de conversación que contiene tanto una pregunta del usuario como una respuesta de Bing", explicó la compañía.

Aunque es fácil pensar que Bing tiene personalidad, el chatbot es solo un software que no entiende lo que dice.

Entrenado para adoptar un tono conversacional, imita el diálogo humano y puede comenzar a descarrilarse si se le hacen preguntas cargadas de emociones. Desafortunadamente, la IA a veces puede comenzar a hacer esto cuando también se le hacen preguntas aparentemente benignas.

"Después de que una sesión de chat llegue a cinco turnos, se les pedirá a las personas que inicien un nuevo tema. Al final de cada sesión de chat, se debe borrar el contexto para que el modelo no se confunda", aclaró Microsoft.

Google está pidiendo al personal que mejore su chatbot de IA, Bard, para usarlo en búsquedas web reescribiendo el texto generado por el software. El vicepresidente de búsqueda del gigante publicitario, Prabhakar Raghavan, supuestamente envió un correo electrónico a los empleados pidiéndoles ayuda para asegurarse de que las respuestas de Bard sean precisas y apropiadas.

"Esta es una tecnología emocionante, pero aún está en sus inicios", escribió, según CNBC. "Sentimos una gran responsabilidad de hacerlo bien, y su participación en la prueba interna ayudará a acelerar el entrenamiento del modelo y probar su capacidad de carga (¡sin mencionar que probar Bard es realmente divertido!)".

"Bard aprende mejor con el ejemplo, por lo que tomarse el tiempo para reescribir una respuesta cuidadosamente nos ayudará mucho a mejorar el modo", agregó.

El CEO Sundar Pichai recomendó a los empleados que dediquen de dos a cuatro horas de su tiempo a Bard y señaló que "este será un largo viaje para todos, en todo el campo". Aunque los grandes modelos de lenguaje como Bard se promocionan como una forma revolucionaria de buscar información en Internet, tienden a generar respuestas poco confiables y requieren datos limpios escritos por humanos de los cuales aprender.

Mejores datos no hacen que estos modelos sean perfectos, pero a menudo aumentan su rendimiento.

La Ley de IA de la UE, destinada a regular la tecnología para proteger a los usuarios de daños y sesgos algorítmicos, se está retrasando mientras los legisladores negocian sus términos finales.

Se esperaba que el proyecto de ley se aprobara para que los estados miembros votaran a fines del próximo mes, pero puede retrasarse ya que los funcionarios no pueden ponerse de acuerdo sobre los principios básicos, según Reuters. Las políticas deben ser lo suficientemente estrictas para contrarrestar la falta de transparencia y la tendencia de la IA a generar resultados sesgados, al tiempo que protegen la privacidad de los datos, sin suprimir el desarrollo y la inversión.

"La tensión obvia aquí es entre el enfoque en los derechos fundamentales, por un lado, y aquellos que dicen que estos necesariamente entran en conflicto con la innovación", dijo el eurodiputado Sergey Lagodinsky, quien representa al partido Verde en Alemania. Según los informes, los legisladores están luchando para decidir qué aplicaciones de IA deben etiquetarse como de "alto riesgo" y sujetas a reglas más estrictas.

No está claro cuándo avanzará el proyecto de ley a las próximas etapas legislativas. "El expediente es largo y complejo, los eurodiputados están trabajando duro para llegar a un acuerdo sobre su mandato de negociación. Sin embargo, no hay fecha límite ni calendario para los próximos pasos", dijo un legislador.

La IA podría tomar los trabajos de los arquitectos a medida que los modelos de generación de imágenes mejoren en el diseño de edificios, interiores de habitaciones y más.

Neil Leach, profesor de la Universidad Internacional de Florida que dirige el programa de Doctorado en Diseño, advirtió a los arquitectos que las herramientas comerciales como DALL-E, Midjourney y Stable Diffusion están poniendo en riesgo sus trabajos.

Las personas pueden producir fácilmente representaciones realistas de casas, edificios y habitaciones con solo descripciones de texto, lo que reduce la necesidad de que los arquitectos dibujen y modelen sus diseños. Leach dijo que estas herramientas hacen que los arquitectos sean más productivos, pero si los trabajadores pueden hacer más trabajo en menos tiempo, ¿las empresas seguirán contratando a tanta gente?

"A menudo se nos hace creer que los rumores sobre la muerte del arquitecto son muy exagerados. Los poderes creativos únicos de la mente humana, según dice la narrativa, perdurarán. Sin embargo, discrepo. Hay señales de que la IA se está volviendo no solo bueno, sino terriblemente bueno, hasta el punto de que está comenzando a exponer nuestras propias limitaciones como seres humanos y poniendo en riesgo incuestionablemente nuestro trabajo como arquitectos”, escribió en un artículo de opinión para la revista de diseño Dezeen.

Leach aconsejó a los arquitectos que utilicen estas herramientas de IA y aprendan a ser un "superusuario" para adaptarse a medida que evoluciona su profesión. ®

Envíanos noticias