En marzo, poco antes de presentar al público Bard, el chatbot de inteligencia artificial, Google pidió a sus empleados que probaran la herramienta. Lo que ningún ejecutivo en la empresa podía imaginar fue la reacción que cosechó entre los programadores.
Por Clarín
Google, que a lo largo de los años lideró gran parte de la investigación sobre la IA, todavía no había integrado en sus productos una versión de la IA generativa orientada al consumidor, cuando se lanzó ChatGPT.
Hasta entonces, la empresa se mostraba cautelosa ante su poder y las consideraciones éticas que conllevaría integrar la tecnología en las búsquedas y otros productos estrella, según los empleados. Pero el temor a ser desplazado por la competencia, le hizo perder la razón.
Ahora, sus trabajadores sostienen que estas preocupaciones fueron ignoradas en un intento frenético de ponerse al día con ChatGPT y evitar la amenaza que podría representar para el negocio de búsqueda de Google.
Un empleado llegó a la conclusión de que Bard era “un mentiroso patológico”: según las capturas de pantalla de la discusión interna. Otro lo calificó de “estremecedor”, según un informe de Bloomberg.
El grupo de trabajo sobre ética que Google se comprometió a fortificar está ahora desprovisto de poder y desmoralizado, dijeron los trabajadores actuales y antiguos.
A los empleados responsables de la seguridad y las implicaciones éticas de los nuevos productos se les ha dicho que no se metan en medio ni intenten acabar con ninguna de las herramientas de IA generativa en desarrollo, dijeron.
Google pretende revitalizar su negocio de búsquedas en torno a esta tecnología de vanguardia, que podría introducir la IA generativa en millones de teléfonos y hogares de todo el mundo, idealmente antes de que OpenAI, con el respaldo de Microsoft Corp. (MSFT) se adelante a la empresa.
Un empleado escribió que cuando le pedían sugerencias sobre cómo aterrizar un avión, Bard solía dar consejos que provocarían un accidente. Otro dijo que daba respuestas sobre submarinismo “que probablemente provocarían lesiones graves o la muerte”.
“La ética de la IA ha pasado a un segundo plano”, dijo Meredith Whittaker, presidenta de la Fundación Signal, que apoya la mensajería privada, y ex directiva de Google. “Si la ética no se sitúa por encima de los beneficios y el crecimiento, al final no funcionará”.
