La destacada erudita en inteligencia artificial Timnit Gebru, ayudó a mejorar la imagen pública de Google como una empresa que eleva a los científicos informáticos negros y cuestiona los usos dañinos de la tecnología de inteligencia artificial.

Pero internamente, Gebru, líder en el campo de la ética de la IA, no tuvo reparos en expresar sus dudas sobre esos compromisos, hasta que fue expulsada de la empresa esta semana en una disputa sobre un trabajo de investigación que examina los peligros sociales de una rama emergente de AI.

Gebru anunció en Twitter que fue despedida. Google les dijo a los empleados que ella renunció. Más de 1200 empleados de Google firmaron una carta abierta en la que calificaron el incidente como una censura de investigación sin precedentes y acusaron a la empresa de racismo y actitud defensiva.

El furor por la abrupta salida de Gebru es el último incidente que genera dudas sobre si Google se ha alejado tanto de su lema original Don’t Be Evil que la empresa ahora expulsa rutinariamente a los empleados que se atreven a desafiar a la gerencia.

Y ha expuesto preocupaciones más allá de Google sobre si los esfuerzos llamativos en IA ética, que van desde una orden ejecutiva de la Casa Blanca esta semana hasta equipos de revisión de ética establecidos en toda la industria tecnológica, son de poca utilidad cuando sus conclusiones podrían amenazar las ganancias o los intereses nacionales.

Gebru ha sido una estrella en el mundo de la ética de la IA que pasó su carrera tecnológica temprana trabajando en productos de Apple y obtuvo su doctorado estudiando visión por computadora en el Laboratorio de Inteligencia Artificial de Stanford. Es cofundadora del grupo Black in AI, que promueve el empleo y el liderazgo negros en el campo. Es conocida por un estudio histórico de 2018 que encontró prejuicios raciales y de género en el software de reconocimiento facial.

Gebru había estado trabajando recientemente en un documento que examinaba los riesgos de desarrollar sistemas informáticos que analizan enormes bases de datos del lenguaje humano y las utilizan para crear su propio texto similar al humano. El documento menciona la nueva tecnología de Google, utilizada en su negocio de búsqueda, así como las desarrolladas por otros.

Además de señalar los peligros potenciales del sesgo, el documento también citó el costo ambiental de consumir tanta energía para ejecutar los modelos, un tema importante en una empresa que se jacta de su compromiso de ser neutra en carbono desde 2007 mientras se esfuerza por ser aún más ecológica.

Los gerentes de Google estaban preocupados por las omisiones en el trabajo y su tiempo, y querían que los nombres de los empleados de Google fueran eliminados del estudio, pero Gebru se opuso, según un intercambio de correos electrónicos compartidos y publicados por primera vez por Platformer.

Gebru expresó el martes sus frustraciones sobre el proceso a un grupo de correo electrónico interno de diversidad e inclusión en Google, con el asunto: Silenciar las voces marginadas en todas las formas posibles”. Gebru dijo en Twitter que ese es el correo electrónico que la despidió.

Derrocar a Timnit por tener la audacia de exigir la integridad de la investigación socava gravemente la credibilidad de Google para respaldar una investigación rigurosa sobre la ética de la inteligencia artificial y la auditoría algorítmica «, dijo Joy Buolamwini, investigadora graduada del Instituto de Tecnología de Massachusetts y coautora del estudio de reconocimiento facial de 2018 con Gebru. .

Ella merece más de lo que Google supo dar, y ahora es una agente libre de estrellas que continuará transformando la industria de la tecnología, dijo Buolamwini en un correo electrónico el viernes. La forma en que Google manejará su iniciativa de ética de inteligencia artificial y la disidencia interna provocada por la salida de Gebru es uno de los problemas que enfrenta la compañía de cara al nuevo año.

Al mismo tiempo que estaba saliendo, el miércoles la Junta Nacional de Relaciones Laborales puso otro foco de atención en el lugar de trabajo de Google. En una denuncia, la NRLB acusó a la empresa de espiar a los empleados durante un esfuerzo de 2019 para organizar un sindicato antes de que la empresa despidiera a dos trabajadores activistas por participar en actividades permitidas por la ley estadounidense. Google ha negado las acusaciones en el caso, que está programado para una audiencia en abril.

Google también ha sido catalogado como un matón con fines de lucro por el Departamento de Justicia de Estados Unidos en una demanda antimonopolio que alega que la compañía ha abusado ilegalmente del poder de su motor de búsqueda dominante y otros servicios digitales populares para sofocar la competencia. La compañía también niega haber actuado mal en esa batalla legal, que puede prolongarse durante años.