El CEO de Google dice a los empleados que el error de Gemini AI es “inaceptable”
- El director ejecutivo de Google, Sundar Pichai, dijo en un memorando que la compañía está trabajando las 24 horas del día para solucionar su herramienta de generación de imágenes con inteligencia artificial.
- Pichai también dijo que la compañía está lanzando nuevos procesos para el lanzamiento de productos de IA.
En un memorando el martes por la noche, el director ejecutivo de Google, Sundar Pichai, abordó los errores de inteligencia artificial de la compañía , que llevaron a Google a desconectar su función de generación de imágenes Gemini para realizar más pruebas.
Pichai calificó los problemas de “problemáticos” y dijo que “han ofendido a nuestros usuarios y han mostrado parcialidad”. La noticia fue reportada por primera vez por Semafor .
Googlepresentó el generador de imágenes a principios de este mes a través de Gemini, el principal grupo de modelos de IA de la compañía. La herramienta permite a los usuarios ingresar indicaciones para crear una imagen. Durante la semana pasada, los usuarios descubrieron imprecisiones históricas que se volvieron virales en línea, y la compañía eliminó la función la semana pasada, diciendo que la relanzaría en las próximas semanas.
“Sé que algunas de sus respuestas han ofendido a nuestros usuarios y han mostrado parcialidad; para ser claros, eso es completamente inaceptable y nos equivocamos”, dijo Pichai. “Ninguna IA es perfecta, especialmente en esta etapa emergente del desarrollo de la industria, pero sabemos que el listón está alto para nosotros”.
La noticia se produce después de que Google cambiara el nombre de su chatbot de Bard a Gemini a principios de este mes.
El memorando de Pichai decía que los equipos han estado trabajando día y noche para abordar los problemas y que la compañía implementará un conjunto claro de acciones y cambios estructurales, así como “procesos de lanzamiento mejorados”.
“Siempre hemos buscado brindar a los usuarios información útil, precisa e imparcial sobre nuestros productos”, escribió Pichai en el memorando. “Por eso la gente confía en ellos. Este tiene que ser nuestro enfoque para todos nuestros productos, incluidos nuestros productos emergentes de IA”.
Lea el texto completo del memorando aquí:
Quiero abordar los problemas recientes con respuestas problemáticas de texto e imágenes en la aplicación Gemini (anteriormente Bard). Sé que algunas de sus respuestas han ofendido a nuestros usuarios y han mostrado parcialidad; para ser claros, eso es completamente inaceptable y nos equivocamos.
Nuestros equipos han estado trabajando las 24 horas del día para abordar estos problemas. Ya estamos viendo una mejora sustancial en una amplia gama de indicaciones. Ninguna IA es perfecta, especialmente en esta etapa emergente del desarrollo de la industria, pero sabemos que el listón es alto para nosotros y lo mantendremos durante el tiempo que sea necesario. Y revisaremos lo que sucedió y nos aseguraremos de solucionarlo a escala.
Nuestra misión de organizar la información mundial y hacerla universalmente accesible y útil es sacrosanta. Siempre hemos buscado brindar a los usuarios información útil, precisa e imparcial en nuestros productos. Por eso la gente confía en ellos. Este tiene que ser nuestro enfoque para todos nuestros productos, incluidos nuestros productos emergentes de IA.
Impulsaremos un conjunto claro de acciones, que incluyen cambios estructurales, pautas de productos actualizadas, procesos de lanzamiento mejorados, evaluaciones sólidas y equipos rojos, y recomendaciones técnicas. Estamos analizando todo esto y haremos los cambios necesarios.
Incluso mientras aprendemos de lo que salió mal aquí, también debemos aprovechar los anuncios técnicos y de productos que hemos realizado en IA durante las últimas semanas. Esto incluye algunos avances fundamentales en nuestros modelos subyacentes, por ejemplo, nuestro avance de ventana de contexto largo de 1 millón y nuestros modelos abiertos, los cuales han sido bien recibidos.
Sabemos lo que se necesita para crear excelentes productos que sean utilizados y amados por miles de millones de personas y empresas, y con nuestra infraestructura y experiencia en investigación tenemos un trampolín increíble para la ola de IA. Centrémonos en lo más importante: crear productos útiles que merezcan la confianza de nuestros usuarios.
No hay comentarios:
Publicar un comentario