O que é um eticista de IA? Qual é a sua função?
A Microsoft foi uma das primeiras empresas a começar a discutir e defender uma perspectiva ética da inteligência artificial. A discussão começou a decolar na empresa em 2016 quando o CEO Satya Nadella falou em uma conferência de desenvolvedores sobre como a empresa viu algumas das questões éticas em torno da IA e depois quando publicou um artigo sobre essas questões. O principal foco de Nadella estava na orientação da Microsoft para o uso da inteligência artificial para aumentar as capacidades humanas e criar confiança em produtos inteligentes. No ano seguinte, o diretor de Pesquisa e Desenvolvimento da Microsoft, Eric Horvitz, formou uma parceria com o presidente e diretor jurídico da Microsoft, Brad Smith, para formar o Aether, um comitê multifuncional voltado para IA e ética em engenharia e pesquisa.
Com essas bases estabelecidas, em 2018 a Microsoft estabeleceu uma posição de tempo integral em política e ética de IA. Tim O’Brien, que está na Microsoft há 15 anos como gerente geral, primeiro em estratégia de plataforma e depois em comunicações globais, assumiu o papel.
Naturalmente, muitas organizações estão cada vez mais atentas às questões éticas em torno da IA. Em uma pesquisa da Deloitte em 2018, 32% dos executivos com conhecimento de inteligência artificial classificaram os riscos éticos como uma das três principais preocupações relacionadas à IA. A Microsoft e O’Brien são essencialmente líderes na criação de um papel focado na "defesa e evangelismo" da ética da IA.
Como surgiu o trabalho de eticista de IA?
O’Brien se inspirou nos primeiros passos que os líderes da Microsoft deram à ética da IA e pediu para buscar o tópico da empresa como seu principal trabalho. Ele foi um profissional de marketing de produto para várias empresas de tecnologia no início de sua carreira e passou a maior parte dos últimos 15 anos na Microsoft sugerindo aos desenvolvedores que construíssem conteúdo nas plataformas da empresa.
O'Brien disse que teve alguma exposição a questões de ética em aulas de Direito Empresarial como estudante de MBA e frequentou uma escola jesuíta - uma ordem católica conhecida por seu foco na ética e na filosofia. Seu interesse se desenvolveu quando estava executando a função de Comunicações Globais da Microsoft fora dos EUA, um papel que o levou a viajar constantemente e entrar em contato com a "geopolítica da tecnologia". Ele começou a perceber que deixar todos os problemas éticos e políticos das empresas para os advogados não era suficiente. O’Brien estava vendo que, conforme os dados e o processamento chegavam à nuvem, os problemas de tecnologia, política e geografia estavam começando a colidir.
Como um eticista de IA gasta seu tempo?
O trabalho de O’Brien começou em maio de 2018 e ele começou a viajar pelo mundo quase que imediatamente. Suas principais atividades incluíram palestras em conferências, reuniões com clientes da Microsoft, liderança de pesquisas, conversas com analistas e pesquisadores e coordenação de atividades na Microsoft.
As apresentações de O'Brien se concentraram em tópicos como evitar tendências algorítmicas e criar transparência nos modelos de inteligência artificial. Algumas das ideias da Microsoft sobre esses problemas foram descritas na imprensa. É importante esclarecer que, embora o cargo de O’Brien esteja voltado para a IA, ele promove perspectivas éticas sobre todas as tecnologias da informação. O'Brien disse que vê a IA como a "faísca que acende a ética na tecnologia", incluindo análises, a Internet das coisas, a realidade virtual e aumentada, assim como a IA. Muitas soluções no mundo real são, naturalmente, híbridos dessas tecnologias.
O objetivo da iniciativa de pesquisa que ele lidera é desenvolver uma perspectiva global sobre ética tecnológica. Em seu trabalho anterior, O'Brien observou que diferentes sociedades em todo o mundo têm perspectivas muito diferentes sobre privacidade e ética. Apenas na Europa, por exemplo, os cidadãos do Reino Unido estão dispostos a tolerar o monitoramento da câmera na High Street, em Londres, talvez por causa dos bombardeios do passado pelo IRA, enquanto os alemães são muito mais orientados pela privacidade, influenciados pelas invasões dos espiões da Stasi. O’Brien sugeriu que, na China, o público é tolerante com aplicações baseadas em IA, como reconhecimento facial e escore de crédito social.
O projeto de pesquisa em ética da Microsoft envolve análise etnográfica de diferentes culturas reunidas por meio de observação atenta de comportamentos e conselhos de acadêmicos externos, como Erin Meyer, do INSEAD, que escreveu The Culture Map. Isso pode resultar em várias publicações, dependendo das descobertas.Não há muitas fontes sobre ética tecnológica global, mas esta pesquisa poderia começar a preencher essa lacuna.
Na Microsoft, O'Brien está tentando estender a comunidade de pessoas que estão focadas no tema da ética. Já existe uma coleção de materiais sugerindo que muitas pessoas já estão envolvidas. Os materiais incluem, por exemplo, uma postagem no blog sobre diretrizes da Microsoft sobre o desenvolvimento de bots de conversação responsáveis. Eles também incluem uma apresentação e um artigo sobre modelos inteligíveis em saúde e um projeto interno para uma “porta de aprendizado” que reconhece quem entra e sai dos edifícios da Microsoft.
Essa abordagem de mudança de baixo para cima é a que o CEO Nadella está tentando incutir na cultura da Microsoft. Segundo O'Brien, os dias de pedir um milhão de dólares e cem pessoas para um novo projeto acabaram. A abordagem desejada é ter uma ideia em ação e tentar atrair os recursos necessários ao longo do tempo.
Desenvolvimento de políticas de IA na Microsoft
O’Brien espera que eventualmente haja uma coleção de políticas na Microsoft sobre como usar a IA e tecnologias relacionadas. Algumas já surgiram, como a diretiva de Smith sobre as tecnologias de reconhecimento facial, de 2018, que afirmou que a Microsoft não venderia sua tecnologia para reconhecimento facial de maneiras que poderiam “afetar negativamente consumidores e cidadãos” ou “invadir liberdades democráticas e recursos humanos”. direitos."
Ele acredita que haverá uma série de outras políticas que a empresa definirá, desde evitar o viés algorítmico até modelar a transparência para aplicações específicas, como o policiamento preditivo. O ativismo da Microsoft no espaço de privacidade e ética não é novo; combateu o governo dos EUA pela privacidade de dados confidenciais de clientes na nuvem e também apresentou um breve relatório em favor da posição de privacidade da Apple no iPhone relacionado aos tiroteios que ocorreu em 2015 em San Bernadino, Califórnia.
Mas há muitas questões sobre as quais políticas concretas devem ser desenvolvidas. O’Brien menciona, por exemplo, erros cometidos por sistemas de IA e remediação legal por danos causados por IA. Ele acredita que a parte mais interessante do campo são as muitas questões não resolvidas dentro dele.
A Microsoft é uma grande participante em IA e tecnologia de maneira mais ampla, portanto, há poucas dúvidas de que ter um papel de especialista em ética em IA é uma boa ideia para a empresa. Desde que O’Brien foi nomeado para a função, a Salesforce.com e alguns outros fornecedores criaram posições semelhantes. Outras empresas que não são grandes fornecedores de TI podem não querer advogar tão fortemente em público sobre questões relacionadas à IA. E não seria uma boa ideia criar um papel de especialista em IA sem a forte liderança e o apoio de executivos seniores que a Microsoft exibe. Muitas outras empresas enfrentarão problemas semelhantes aos que a O’Brien está enfrentando para a Microsoft e ter uma função ou grupo interno para abordá-las será útil.
