Uno de los investigadores estrella de IA de Google acaba de irse en medio de una nube de controversia. ¿Qué sucedió?
El investigador estrella de IA, Timnit Gebru, tiene un nuevo artículo que destaca los problemas con los modelos de IA de Google. ¿La empresa la obligó a salir por eso?
SAN FRANCISCO, CA - 7 DE SEPTIEMBRE: El científico de investigación de Google AI Timnit Gebru habla en el escenario durante el día 3 de TechCrunch Disrupt SF 2018 en el Moscone Center el 7 de septiembre de 2018 en San Francisco, California. (Foto de Kimberly White/Getty Images para TechCrunch)
Crédito: Kimberly White / Stringer (imágenes falsas)
Google no puede salirse de su propio camino.
Ya frente a un antimonopolista caso (y trabajo disputar ), el gigante de las búsquedas está envuelto en una controversia con Timnit Gebru, un investigador estrella de inteligencia artificial que se vio obligado a dejar la empresa la semana pasada.
Un campeón de la diversidad en tecnología, la investigación anterior de Gebru en particular descubierto Sesgo de género y tipo de piel en la tecnología de reconocimiento facial.
Gebru señaló problemas con los grandes modelos de lenguaje de Google
De acuerdo con la Revisión de tecnología del MIT , estos modelos, IA entrenadas en cantidades asombrosas de datos de texto, son 'clave para el negocio de Google'.
Estos son algunos de los últimos hallazgos de la investigación de Gebru:
- Costos ambientales y financieros: Los grandes productos de IA consumen mucha energía. Uno de los modelos lingüísticos que sustentan la búsqueda genera tanto CO2 como un vuelo de ida y vuelta entre Nueva York y San Francisco.
- Sesgo en grandes conjuntos de datos: Los modelos de idioma están sesgados hacia países e idiomas con una gran huella de Internet (por ejemplo, inglés). Es posible que otras normas culturales no se reflejen en la tecnología que utiliza estos modelos.
- Difícil de auditar: Los conjuntos de datos son tan grandes que es muy difícil incluso ver cómo podrían estar sesgados (o cómo solucionarlos).
¿Google quería suprimir estos hallazgos?
Potencialmente.
Muchos especialistas en ética de la IA creen que Google 'la expulsó debido a las verdades incómodas que estaba descubriendo sobre una línea central de su investigación', escribe el Revisión de tecnología del MIT .
A carta en apoyo de Gebru ha sido firmado por más de 1500 empleados de Google y más de 2100 académicos en el campo de la IA.
( Lee mas: El escritor de tecnología Casey Newton compartió el Intercambio de emails entre Gebru y su jefe, Jeff Dean, lo que provocó su partida).
