Margaret Mitchell (cientista)
Margaret Mitchell é uma cientista da computação que trabalha com viés algorítmico e justiça no aprendizado de máquina. Ela é mais conhecida por seu trabalho na remoção automática de vieses indesejados relativos a grupos demográficos de modelos de aprendizado de máquina,[1] bem como relatórios mais transparentes de seu uso pretendido.[2]
| Margaret Mitchell | |
|---|---|
 | |
| Nascimento | século XX Estados Unidos |
| Alma mater | |
| Ocupação | investigadora, AI ethicist |
| Empregador(a) | Google, Hugging Face |
| Obras destacadas | On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? 🦜, Model Cards for Model Reporting |
| Página oficial | |
| https://m-mitchell.com/ | |
Educação
editarMitchell obteve um diploma de bacharel em Linguística pelo Reed College, Portland, Oregon, em 2005. Depois de ter trabalhado como assistente de pesquisa na OGI School of Science and Engineering por dois anos, ela obteve um mestrado em Linguística Computacional pela Universidade de Washington, em 2009. Ela se matriculou em um programa de doutorado na Universidade de Aberdeen, onde escreveu uma tese de doutorado sobre o tema Gerando Referência para Objetos Visíveis,[3] graduando-se em 2013.
Carreira e pesquisa
editarEm 2012, Mitchell ingressou no Human Language Technology Center of Excellence da Johns Hopkins University como pesquisadora de pós-doutorado, antes de assumir um cargo na Microsoft Research, em 2013.[4] Posteriormente, ela trabalhou na Google, onde fundou e co-liderou a equipe de Inteligência Artificial Ética junto com Timnit Gebru até sua demissão, em fevereiro de 2021.
Mitchell é mais conhecida por seu trabalho sobre justiça no aprendizado de máquina e métodos para mitigar o viés algorítmico. Isso inclui seu trabalho na introdução do conceito de 'Cartões de Modelo' para relatórios de modelo mais transparentes,[2] e métodos para desvirtuar modelos de aprendizado de máquina usando aprendizado contraditório.[1] Margaret Mitchell criou a estrutura para reconhecer e evitar vieses testando com uma variável para o grupo de interesse, preditor e adversário.[5]
Na Microsoft, Mitchell foi a líder de pesquisa do projeto Seeing AI, um aplicativo que oferece suporte para deficientes visuais por meio de narração de textos e imagens.[6] Em fevereiro de 2018, ela deu uma palestra no TED sobre 'Como podemos construir IA para ajudar os humanos, não nos machucar'.[7]
Ela teve a oportunidade de começar um novo trabalho como Cientista de Pesquisa Sênior na Google Research and Machine Intelligence em novembro de 2016.
Em fevereiro de 2021, seu emprego na Google, onde ela co-liderou a equipe de Inteligência Artificial Ética com Timnit Gebru, foi encerrado.[8] [9] [10] Sua demissão ocorreu após uma investigação de cinco semanas da Google, que alega que ela violou o código de conduta e as políticas de segurança da empresa. Isso ocorreu apenas algumas semanas após a controversa saída de sua ex-co-líder da equipe, Timnit Gebru, em dezembro de 2020.[11] Antes de sua demissão, Mitchell havia sido uma ávida defensora da diversidade na Google e havia manifestado preocupações sobre a censura de pesquisas na empresa.[12]
Durante o outono de 2021, ela se junta à empresa Hugging Face.[13]
Liderança
editarMitchell é membro da Partnership on AI e defensora da diversidade na tecnologia. Ela é co-fundadora da Widening NLP,[14] uma comunidade de mulheres e outros pesquisadores sub-representados que trabalham em processamento de linguagem natural e um grupo de interesse especial dentro da Association for Computational Linguistics .
Referências
editar- ↑ a b Hu Zhang, Brian; Lemoine, Blake; Mitchell, Margaret (1 de dezembro de 2018). Mitigating Unwanted Biases with Adversarial Learning. AAAI/ACM Conference on AI, Ethics, and Society. pp. 220–229. doi:10.1145/3278721.3278779
- ↑ a b Mitchell, Margaret; Wu, Simone; Zaldivar, Andrew; Barnes, Parker; Vasserman, Lucy; Hutchinson, Ben; Spitzer, Elena; Raji, Inioluwa Deborah; Gebru, Timnit (29 de janeiro de 2019). Model Cards for Model Reporting. Conference on Fairness, Accountability, and Transparency. arXiv:1810.03993 . doi:10.1145/3287560.3287596
- ↑ Mitchell, Margaret. Generating Reference to Visible Objects (PDF) (PhD)
- ↑ Mitchell, Margaret (14 de fevereiro de 2017). «Margaret Mitchell (Google Research) "Algorithmic Bias in Artificial Intelligence: The Seen and Unseen Factors Influencing Machine Perception of Images and Language"». John Hopkins. Consultado em 9 de novembro de 2021 [ligação inativa]
- ↑ Zhang, Brian Hu; Lemoine, Blake; Mitchell, Margaret (27 de dezembro de 2018). «Mitigating Unwanted Biases with Adversarial Learning». New Orleans LA USA: ACM. Proceedings of the 2018 AAAI/ACM Conference on AI, Ethics, and Society. Aies '18 (em inglês): 335–340. ISBN 978-1-4503-6012-8. arXiv:1801.07593 . doi:10.1145/3278721.3278779
- ↑ «Seeing AI in New Languages». Microsoft. Consultado em 20 de fevereiro de 2021
- ↑ «Margaret Mitchell's TED talk». TED. 2 de fevereiro de 2018. Consultado em 20 de fevereiro de 2021
- ↑ «Google fires Margaret Mitchell, another top researcher on its AI ethics team». The Guardian. 20 de fevereiro de 2021. Consultado em 20 de fevereiro de 2021
- ↑ «Margaret Mitchell: Google fires AI ethics founder». BBC. 20 de fevereiro de 2021. Consultado em 20 de fevereiro de 2021
- ↑ «Google fires Ethical AI lead Margaret Mitchell». VentureBeat. 20 de fevereiro de 2021. Consultado em 20 de fevereiro de 2021
- ↑ Metz, Cade (3 de dezembro de 2020). «Google Researcher Says She Was Fired Over Paper Highlighting Bias in A.I.». The New York Times. Consultado em 12 de dezembro de 2020. Arquivado do original em 11 de dezembro de 2020
- ↑ Osborne, Charlie. «Google fires top ethical AI expert Margaret Mitchell». ZDNet (em inglês). Consultado em 22 de março de 2021
- ↑ «Fired from Google After Critical Work, AI Researcher Mitchell to Join Startup». Bloomberg.com. 24 de agosto de 2021
- ↑ Verma, Sukriti (23 de fevereiro de 2021). «AI Ethics Founder of Google has been Fired : The Reason and everything you need to know.». Stanford Arts Review (em inglês). Consultado em 22 de março de 2021 [ligação inativa]
