Timnit Gebru

científica de computación especialista en inteligencia artificial

Timnit Gebru (c. 1982/1983) es una científica en computación etíope, especializada en algoritmos de minería de datos y sesgo algorítmico. También aboga por la defensa de la diversidad en la tecnología y es cofundadora de Black in AI, una comunidad de investigadores negros que trabajan en inteligencia artificial.

Timnit Gebru
TechCrunch Disrupt San Francisco 2018 - day 3 (30671211838).jpg
Información personal
Nacimiento 13 de mayo de 1983 Ver y modificar los datos en Wikidata (38 años)
Adís Abeba (Etiopía) Ver y modificar los datos en Wikidata
Nacionalidad Etíope
Educación
Educada en Universidad Stanford Ver y modificar los datos en Wikidata
Supervisor doctoral Fei-fei Li Ver y modificar los datos en Wikidata
Información profesional
Ocupación Investigadora e investigadora de la inteligencia artificial Ver y modificar los datos en Wikidata
Área Sesgo algorítmico y minería de datos Ver y modificar los datos en Wikidata
Empleador
Afiliaciones Universidad Stanford Ver y modificar los datos en Wikidata
Web
Sitio web

En diciembre de 2020, fue despedida de su puesto como técnico colíder del Equipo de Inteligencia Artificial Ética de Google después de negarse a una solicitud que directores de rango superior le hicieran al pedirle retirar de un informe, que estaba por ser publicado, los nombres de todos los empleados de Google mencionados en dicho informe (incluyendo el de ella).[1]​ Rechazó el pedido, solicitando los nombres y razones de las personas que tomaron esa decisión, y amenazó con renunciar si no era proporcionada aquella información.[2]​Google no cumplió su petición y fue inmediatamente despedida. Google declaró que el informe en cuestión, titulado "Los Peligros de Loros Estocásticos: ¿Pueden Modelos de Lenguaje Ser Demasiado Grandes?" (En inglés On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?), ignoraba investigaciones recientes que muestran métodos de mitigar el sesgo en aquellos sistemas.[12][13]

Educación y juventudEditar

Gebru nació y creció en Adís Abeba, Etiopía.[14]​ Su padre falleció cuando tenía cinco años de edad, su madre se hizo cargo de ella.[15]​ Ambos padres son de Eritrea. Por ser eritreana, Gebru se vio sometida a una deportación forzada durante la Guerra entre Etiopía y Eritrea obligándola a huir de Etiopía a la edad de 15 años. Finalmente solicitó asilo político que fue aceptado en los Estados Unidos.[16]

Después de completar sus estudios superiores en el Instituto de Massachusetts, fue aceptada para estudiar en la Universidad Stanford.[14]​ Allí obtuvo su maestría en ingeniería eléctrica.[17]​ Gebru trabajó en Apple, desarrollando la señal que procesa algoritmos para el primer iPad.[18]​ Obtuvo su doctorado bajo la asesoría de Fei-Fei Li en la Universidad Stanford en 2017. Utilizó minería de datos de imágenes disponibles públicamente.[19]​ Se interesó por la cantidad de dinero gastado por organizaciones gubernamentales y no gubernamentales intentando recolectar información sobre comunidades.[20]​ Para investigar alternativas, Gebru combinó aprendizaje profundo con Google Street View para estimar la demografía de barrios en Estados Unidos, mostrando que atributos socioeconómicos como inclinación política, ingresos, carrera y educación pueden ser inferidos por la observación de autos. Si la cantidad de camiones pickup supera el número de sedans, la comunidad será más inclinada a votar para el partido Republicano.[21]​ Se analizaron más de 15 millones de imágenes de las 200 ciudades más pobladas de EE. UU.[22]​ El trabajo fue extensamente seguido en los medios de comunicación como BBC News, Newsweek, The Economist, y The New York Times.[23][24][25]

Gebru presentó su investigación en la competencia 2017 LDV Capital Vision Summit, donde científicos de visión por computadora presentan sus trabajos a miembros de industria e inversores.[26]​ Gebru ganó la competición, y comenzó una serie de colaboraciones con otros emprendedores e inversores. Ambos durante su programa de PhD durante 2016 y en 2018, Gebru regresó a Etiopía con Jelani Nelson para trabajar en la campaña AddisCoder.[27][28]​ Después de recibir su PhD, Gebru se unió a Microsoft como investigadora de postdoctorado en el laboratorio de Equidad, Responsabilidad, Transparencia y Ética en Inteligencia Artificial (FATE siglas en inglés).[22][29]

Carrera e investigacionesEditar

 
Gebru Hablando sobre sus hallazgos para pronosticar, con cierta fiabilidad, la manera en que un americano votará por el tipo de vehículo conducen.

Gebru trabajó en Google en el departamento de inteligencia artificial ética. Allí estudió las implicaciones de la inteligencia artificial, buscando mejorar la capacidad de la tecnología para hacer el bien social.[30]​ Colaboró con el MIT en su grupo de investigaciones Gender Shades.[31]​ Gebru trabajó con Joy Buolamwini para investigar un software de reconocimiento facial; encontrando que las mujeres negras tienen 35 % menos de probabilidades de ser reconocidas que los hombres blancos.[32]​ Cuándo Gebru asistió a una conferencia de inteligencia artificial en 2016, notó que era la única mujer negra de los 8.500 delegados presentes.[33]​ Junto con su colega Rediet Abebe, Gebru fundó Black in AI, una comunidad de investigadores negros que trabajan en inteligencia artificial.

Gebru también trabajó en el equipo del departamento de Microsoft de Justicia, Imputabilidad, Transparencia, y Éticas. En 2017, Gebru habló en la conferencia Fairness and Transparency (Justicia y Transparencia), donde MIT Technology Review la entrevistó sobre los sesgos que existen en los sistemas de inteligencia artificial y cómo agregar diversidad en los equipos de inteligencia artificial puede solucionar ese problema. En su entrevista con Jackie Snow, Snow preguntó Gebru, "¿Cómo distorsiona la falta de diversidad la inteligencia artificial y específicamente la visión por computadora?" Y Gebru señaló que existen sesgos en los desarrolladores de software.[34]​ Gebru y otros investigadores de inteligencia artificial firmaron una carta que reflejaba los problemas sistémicos que residen en el software de reconocimiento facial de Amazon. Un estudio realizado por investigadores del MIT muestra que el sistema de reconocimiento facial de Amazon tenía más problemas para identificar a las mujeres de piel más oscura que el software de reconocimiento facial de cualquier otra empresa de tecnología.[35]​ En una entrevista del New York Times, Gebru expresó además de que cree que el reconocimiento facial es demasiado peligroso para ser utilizado con fines policiales y de seguridad en este momento..[36]

Salida de GoogleEditar

Gebru cesó de trabajar para Google en diciembre de 2020. Las circunstancias de su salida son discutidas. Gebru y algunos de sus compañeros de trabajo afirmaron que la habían despedido de Google.[37]​ Los ejecutivos de Google, Jeff Dean y Megan Kacholia, afirmaron que ella se ofreció a renunciar y que Google aceptó posteriormente su renuncia..[38][39]​ Afirmó que nunca se ofreció a renunciar, solo amenazó con renunciar.[2]

Gebru había sido coautora de un artículo sobre los grandes riesgos de los modelos lingüísticos, con respecto a sus costos ambientales y financieros, la inescrutabilidad que conduce a sesgos peligrosos desconocidos, la incapacidad de los modelos para comprender los conceptos subyacentes a lo que aprenden y la posibilidad de usarlos para engañar a la gente. En un correo enviado a una lista de colaboración interna, Gebru describió cómo fue convocada a una reunión con poca antelación en la que se le pidió que retirara el artículo, y habló sobre sus solicitudes posteriores sobre las identidades de los revisores, así el cómo o el porqué de la decisión que se había tomado fueron ignorados.[40]​ Gebru pidió que se cumplieran ciertas condiciones para evitar su renuncia, pero el equipo de inteligencia artificial de Google no estaba dispuesto a cumplir esas condiciones y aceptó su renuncia el mismo día..[41]​ Jeff Dean, jefe de investigación de inteligencia artificial de Google respondió con un correo electrónico diciendo que tomaron la decisión porque el documento ignoraba demasiadas investigaciones recientes relevantes sobre formas de mitigar algunos de los problemas descritos en él, sobre el impacto en el entorno y el sesgo de estos modelos.

Tras la controversia, el CEO de Google, Sundar Pichai, emitió una disculpa sin admitir haber cometido un delito..[42]​ Más de 1200 empleados de Google y 1500 investigadores firmaron una carta condenando el supuesto despido de Gebru..[43]

El 16 de diciembre de 2020, el equipo de investigación de IA ética de Google exigió que la vicepresidenta Megan Kacholia fuera destituida de la cadena de gestión del equipo..[44]​ Kacholia supuestamente había despedido a Gebru sin notificar primero al gerente directo de Gebru, Samy Bengio.[45]​ El equipo de inteligencia artificial ética de Google también exigió que Megan Kacholia y el jefe de inteligencia artificial de Google, Jeff Dean, se disculpen por cómo se la trató a Gebru.[46]

Nueve miembros del Congreso enviaron una carta a Google pidiéndole que aclarara las circunstancias en torno a la salida de Timnit Gebru.[47]

PremiosEditar

Gebru, Joy Buolamwini e Inioluwa Raji ganaron el premio AI Innovations Award 2019 de VentureBeat en la categoría AI for Good por su investigación que destaca un problema significativo del sesgo algorítmico en el reconocimiento facial.[48][49]

PublicacionesEditar

ReferenciasEditar

  1. Metz, Cade (3 de diciembre de 2020). «Google Researcher Says She Was Fired Over Paper Highlighting Bias in A.I.». The New York Times (en inglés estadounidense). ISSN 0362-4331. Consultado el 17 de mayo de 2021. 
  2. a b Allyn, Bobby (17 de diciembre de 2020). «Ousted Black Google Researcher: 'They Wanted To Have My Presence, But Not Me Exactly'». NPR. Archivado desde el original el 18 December 2020. Consultado el 19 December 2020. «After Google demanded that Gebru retract the paper for not meeting the company's bar for publication, Gebru asked that the process be explained to her, including a list of everyone who was part of the decision. If Google refused, Gebru said she would talk to her manager about "a last date." Google took that to mean Gebru offered to resign, and Google leadership say they accepted, but Gebru herself said no such offer was ever extended, only threatened.» 
  3. Hao, Karen (4 December 2020). «We read the paper that forced Timnit Gebru out of Google. Here’s what it says.». MIT Technology Review (en inglés). Archivado desde el original el 25 December 2020. Consultado el 5 December 2020. 
  4. «Top AI ethics researcher says Google fired her; company denies it». Reuters. Archivado desde el original el 5 December 2020. Consultado el 4 December 2020. 
  5. Ghaffary, Shirin (4 December 2020). «The controversy behind a star Google AI researcher’s departure». Vox (en inglés). Archivado desde el original el 6 December 2020. Consultado el 6 December 2020. 
  6. «Timnit Gebru: Google staff rally behind fired AI researcher». BBC. Archivado desde el original el 4 December 2020. Consultado el 4 December 2020. 
  7. «Google fires prominent AI ethicist Timnit Gebru». The Verge. Archivado desde el original el 3 December 2020. Consultado el 4 December 2020. 
  8. «Google's co-lead of Ethical AI team says she was fired for sending an email». TechCrunch. Archivado desde el original el 4 December 2020. Consultado el 4 December 2020. 
  9. «Renowned AI researcher says Google abruptly fired her, spurring industrywide criticism of the company». CNBC. Archivado desde el original el 4 December 2020. Consultado el 4 December 2020. 
  10. Langley, Hugh (December 3, 2020). «One of Google's leading AI researchers says she's been fired in retaliation for an email to other employees». Business Insider. Archivado desde el original el 5 December 2020. Consultado el December 3, 2020. 
  11. «Timnit Gebru: Google staff rally behind fired AI researcher». MIT Technology Review. Archivado desde el original el 25 December 2020. Consultado el 5 December 2020. 
  12. On the name of the paper;[3]​ On it still being planned for publication;[4]​ Higher managers;[5]​ Dispute escalating[6][7][8][9][10][11]
  13. Fried, Ina. «Google CEO pledges to investigate exit of top AI ethicist». Axios (en inglés). Archivado desde el original el 10 December 2020. Consultado el 10 de diciembre de 2020. 
  14. a b Lahde, Lisa. «AI Innovators: How One Woman Followed Her Passion and Brought Diversity to AI». Forbes (en inglés). Archivado desde el original el 10 January 2019. Consultado el 9 de enero de 2019. 
  15. Chisling, Ava (24 de julio de 2017). «Excuse me, sir, but where are all the women?». ROSS Intelligence (en inglés). Archivado desde el original el 10 January 2019. Consultado el 9 de enero de 2019. 
  16. «Archived copy». Archivado desde el original el 7 December 2020. Consultado el 14 December 2020. 
  17. AI, People In (16 de septiembre de 2017). «Timnit Gebru honored as an Alicorn of Artificial Intelligence by People in AI». Selfpreneur. Archivado desde el original el 5 December 2020. Consultado el 9 de enero de 2019. 
  18. «Timnit Gebru». Databricks (en inglés estadounidense). Archivado desde el original el 10 January 2019. Consultado el 9 de enero de 2019. 
  19. «Understanding the Limits of AI: When Algorithms Fail». MIT Tech Review. Archivado desde el original el 5 December 2020. Consultado el 9 de enero de 2019. 
  20. Capital, L. D. V. (1 de agosto de 2017), [5 December 2020 Timnit Gebru - 2017 Entrepreneurial Computer Vision Challenge Finalist Presentations] |url= incorrecta (ayuda), archivado desde el original el https://web.archive.org/web/20201205163259/https://vimeo.com/227931600, consultado el 9 de enero de 2019 .
  21. Fei-Fei, Li; Aiden, Erez Lieberman; Deng, Jia; Chen, Duyun; Wang, Yilun; Krause, Jonathan; Gebru, Timnit (12 de diciembre de 2017). «Using deep learning and Google Street View to estimate the demographic makeup of neighborhoods across the United States». Proceedings of the National Academy of Sciences (en inglés) 114 (50): 13108-13113. ISSN 1091-6490. PMC 5740675. PMID 29183967. doi:10.1073/pnas.1700035114. 
  22. a b «Timnit Gebru». Design Better. Archivado desde el original el 10 January 2019. Consultado el 9 de enero de 2019. 
  23. Lufkin, Bryan (6 January 2018). «What Google Street View tells us about income». Worklife (en inglés). BBC. Archivado desde el original el 10 January 2019. Consultado el 9 de enero de 2019. 
  24. «A machine-learning census of America's cities». 2 de marzo de 2017. ISSN 0013-0613. Archivado desde el original el 10 January 2019. Consultado el 9 de enero de 2019. 
  25. Lohr, Steve (31 de diciembre de 2017). «How Do You Vote? 50 Million Google Images Give a Clue» (en inglés estadounidense). ISSN 0362-4331. Archivado desde el original el 10 January 2019. Consultado el 9 de enero de 2019. 
  26. «Timnit Gebru Wins 2017 ECVC: Leveraging Computer Vision to Predict Race, Education and Income via Google Streetview Images». LDV Capital (en inglés estadounidense). Archivado desde el original el 10 January 2019. Consultado el 9 de enero de 2019. 
  27. Magazine, Tadias. «Timnit Gebru: Among Incredible Women Advancing A.I. Research at Tadias Magazine». Archivado desde el original el 10 January 2019. Consultado el 9 de enero de 2019. 
  28. «History | AddisCoder». www.addiscoder.com. Archivado desde el original el 21 March 2018. Consultado el 10 de enero de 2019. 
  29. «Timnit Gebru». World Science Festival (en inglés estadounidense). Archivado desde el original el 10 January 2019. Consultado el 9 de enero de 2019. 
  30. University, Office of Web Communications, Cornell. «Digital Life Seminar | Timnit Gebru». Cornell (en inglés). Archivado desde el original el 10 January 2019. Consultado el 9 de enero de 2019. 
  31. «Team». MIT Media Lab. Archivado desde el original el 25 July 2019. Consultado el 9 de enero de 2019. 
  32. Lohr, Steve (9 de febrero de 2018). «Facial Recognition Is Accurate, if You're a White Guy» (en inglés estadounidense). ISSN 0362-4331. Archivado desde el original el 9 January 2019. Consultado el 9 de enero de 2019. 
  33. Birhaner, De (26 de mayo de 2017). «Ethiopian Ms. Timnit Gebru Fights Algorithmic Bias And Homogenous Thinking in A.I.». De Birhan (en inglés estadounidense). Archivado desde el original el 23 October 2018. Consultado el 9 de enero de 2019. 
  34. Mitchell, Margaret; Wu, Simone; Zaldivar, Andrew; Barnes, Parker; Vasserman, Lucy; Hutchinson, Ben; Spitzer, Elena; Raji, Inioluwa Deborah et al. (2019). «Model Cards for Model Reporting». Proceedings of the Conference on Fairness, Accountability, and Transparency - FAT* '19 (New York, New York, USA: ACM Press): 220-229. ISBN 978-1-4503-6125-5. arXiv:1810.03993. doi:10.1145/3287560.3287596. 
  35. Mitchell, Andrea (April 2019). «A.I. Experts Question Amazons Facial-Recognition Technology». Archivado desde el original el 26 November 2019. 
  36. Ovide, Shira (9 de junio de 2020). «A Case for Banning Facial Recognition» (en inglés estadounidense). ISSN 0362-4331. Archivado desde el original el 17 July 2020. Consultado el 12 de julio de 2020. 
  37. Ghaffary, Shirin (4 de diciembre de 2020). «The controversy behind a star Google AI researcher's departure». Vox (en inglés). Archivado desde el original el 6 December 2020. Consultado el 6 de diciembre de 2020. 
  38. Jeff Dean [@JeffDean] (4 December 2020). «I understand the concern over Timnit’s resignation from Google. She’s done a great deal to move the field forward with her research. I wanted to share the email I sent to Google Research and some thoughts on our research process.» (tuit). 
  39. «Google workers mobilize against firing of top Black female executive». NBC News (en inglés). Archivado desde el original el 5 December 2020. Consultado el 5 de diciembre de 2020. 
  40. Newton, Casey. «The withering email that got an ethical AI researcher fired at Google». www.platformer.news. Archivado desde el original el 10 December 2020. Consultado el 10 de diciembre de 2020. 
  41. Schiffer, Zoe. «Timnit Gebru’s team at Google is going public with their side of the story». theverge.com. Archivado desde el original el 17 December 2020. Consultado el 18 de diciembre de 2020. 
  42. Wakabayashi, Daisuke (9 de diciembre de 2020). «Google Chief Apologizes for A.I. Researcher's Dismissal» (en inglés estadounidense). ISSN 0362-4331. Archivado desde el original el 10 December 2020. Consultado el 10 de diciembre de 2020. 
  43. Wong, Julia Carrie (4 December 2020). «More than 1,200 Google workers condemn firing of AI scientist Timnit Gebru». Archivado desde el original el 15 December 2020. Consultado el 15 December 2020. 
  44. Metz, Rachel (17 December 2020). «Tensions in Google's ethical AI group increase as it sends demands to CEO». Archivado desde el original el 17 December 2020. Consultado el 17 December 2020. 
  45. Dastin, Jeffrey (17 December 2020). «Google staff demand exec step aside after ethicist's firing - document». Archivado desde el original el 17 December 2020. Consultado el 17 December 2020. 
  46. Eidelson, Josh (17 December 2020). «Google AI Researchers Lay Out Demands, Escalating Internal Fight». Consultado el 17 December 2020. 
  47. Hao, Karen (17 December 2020). «Congress wants answers from Google about Timnit Gebru’s firing». Archivado desde el original el 25 December 2020. Consultado el 17 December 2020. 
  48. «AI innovation winners announced in San Francisco». Innovation Matrix (en inglés estadounidense). 12 de julio de 2019. Archivado desde el original el 12 July 2020. Consultado el 12 de julio de 2020. 
  49. Burt, Chris (18 de julio de 2019). «Buolamwini, Gebru and Raji win AI Innovation Award for research into biometric bias». Biometric Update (en inglés estadounidense). Archivado desde el original el 12 July 2020. Consultado el 12 de julio de 2020. 

Enlaces externosEditar

  • Perfil en Stanford Universidad