Por que devemos nos preocupar com a ética na tecnologia? O Código de Ética da ACM Atualizado

O código de ética e conduta profissional da ACM de 2018 foi atualizado com novas tecnologias e demandas da sociedade. Esse código apóia a conduta ética dos profissionais de computação por meio de um conjunto de diretrizes para trabalhar positivamente no setor de tecnologia.

O Código de Ética e Conduta Profissional da ACM visa ajudar os profissionais a refletirem sobre o impacto de seu trabalho e agir com responsabilidade:

O código foi projetado para inspirar e orientar a conduta ética de todos os profissionais da área da computação, incluindo profissionais experientes e aspirantes, instrutores, estudantes, influenciadores e qualquer pessoa que use a tecnologia da computação de maneira impactante. Além disso, o código serve como base para a correções quando ocorrem violações.

O código de ética é dividido em quatro seções.

Seção 1 - Princípios Éticos Gerais: Afirma que um profissional de computação deve contribuir para o bem-estar humano, evitar danos, ser honesto e confiável; ser justo e agir para não discriminar; respeitar o trabalho requisitado para produzir novas idéias, invenções, trabalhos criativos e artefatos computacionais; e respeitar a privacidade e honrar a confidencialidade. Esses princípios fornecem o fundamento para a conduta ética.

Seção 2 - Responsabilidades Profissionais: Explora as responsabilidades dos profissionais da área computacional relacionadas ao trabalho. Exemplos dessas responsabilidades são os esforços para alcançarem a alta qualidade; conhecer e respeitar as regras existentes relativas ao trabalho profissional; aceitar e fornecer análises profissionais apropriadas; fomentar a conscientização pública; a compreensão da computação, tecnologias relacionadas e suas conseqüências; e projetar e implementar sistemas que sejam robustos e usualmente seguros.

Seção 3 - Princípios de liderança profissional: Orienta os indivíduos que têm um papel de liderança. Exemplos de princípios mencionados nesta seção são, garantir que o bem público é a preocupação central durante todo o trabalho do profissional de computação, gerenciamento de pessoas e recursos para melhorar a qualidade de vida profissional, criando oportunidades para membros da organização ou grupos crescerem como profissionais, e reconhecer e cuidar especialmente de sistemas que se integrem na infraestrutura da sociedade.

Seção 4 - Conformidade com o código: Garante o comprometimento com o código, afirmando que um profissional de computação deve defender, promover e respeitar os princípios do código e tratar violações do código como inconsistentes com a participação no ACM.

A versão anterior do código data de 1992. Um dos principais motivos pelos quais a ACM decidiu atualizar o código de ética foi que a Internet e muitas outras tecnologias emergentes surgiram do ano de sua criação até hoje. Essas tecnologias, novas, afetaram a sociedade de maneiras completamente diferentes e de maneiras interessantes que não eram esperadas quando o código original foi escrito.

Algumas das maiores mudanças no código incluem a adição de novas seções que pedem segurança no design de novos projetos, empresas cujos serviços se transformam em infraestrutura (por exemplo, a Google) que tenham um nível mais alto de responsabilidade ao bem público, maior dever de cuidado sobre o fim da vida útil dos sistemas e alguns aspectos específicos para abordar as preocupações em torno da aprendizagem de máquina.

Algumas cláusulas foram reescritas, como a da natureza da propriedade intelectual, já que a mesma mudou desde 1992, e aspectos positivos do código foram destacados; não apenas o que os profissionais não devem fazer, mas o que eles podem fazer para melhorar seu desenvolvimento tecnológico.

Outra grande mudança foi o foco do Código - originalmente, tudo foi desenvolvido em torno do profissionalismo e da qualidade - agora tudo está em torno do desenvolvimento de tecnologia com o bem público, a preocupação primordial. Isso ajuda a resolver alguns dos dilemas envolvidos em valores conflitantes dentro do código - o valor que sustenta o bem público deve ser, sempre, o prioritário.

Catherine Flick, membro do Comitê de Ética Profissional da ACM, falou sobre por que devemos nos preocupar com a ética tecnológica na QCon London 2019. O InfoQ a entrevistou, perguntando sobre o que torna a ética importante, como aplicar o código em inteligência artificial e aplicativos de machine learning, metas corporativas e ética e o papel da regulação e certificação em ética.

InfoQ: O que torna a ética importante para pequenas e grandes empresas?

Catherine Flick: Muitas empresas estão começando a ver as conseqüências potenciais de não pensar em ética, por exemplo, o impacto que o escândalo da Cambridge Analytica teve no Facebook; Os funcionários do Google estão indo contra as práticas antiéticas do próprio Google, etc. Entretanto, as organizações também estão vendo o potencial do mercado mais ético em relação à privacidade, segurança e dados, por exemplo, e estão se tornando cada vez mais expressivas com relação a suas necessidades, ao invés de aceitar a mais recente tecnologia sem analisar os pontos éticos e morais.

InfoQ: Como podemos aplicar o código de ética à inteligência artificial e aplicativos de machine learning?

Flick: De maneira holística é claro! Embora exista uma menção direta ao machine learning no Princípio 2.5, isso não significa que deve-se simplesmente pular para essa parte e apenas olhar o que o código tem a dizer. Há aspectos de todos os princípios no código que contribuem para entender e trabalhar os problemas éticos de machine learning. Na verdade, desafio qualquer pessoa a encontrar um princípio nas seções 1 e 2 que não se possa aplicar ao mundo do machine learning! E mesmo aqueles na seção 3 podem se aplicar ao gerenciamento de um negócio ou projeto de machine learning. Para se usar o código, sugiro que considere cuidadosamente cada princípio no contexto do seu trabalho, quais partes interessadas podem ser afetadas (e não apenas as partes diretamente interessadas!), identifique possíveis impactos éticos futuros do seu trabalho, e assim verifique quais possíveis ações podem ser tomadas para atenuar ou resolver o problema e, em seguida, analisar os processos em vigor na sua organização para permitir que se evite problemas futuros.

A menção específica ao machine learning é feita no Princípio 2.5, que fala sobre seu risco. Na orientação do princípio, afirma:

Cuidados extraordinários devem ser tomados para identificar e mitigar riscos potenciais em sistemas de machine learning. Um sistema para o qual os riscos futuros não podem ser previstos com segurança requer reavaliações freqüentes à medida que o sistema evolui em uso caso contrário não deve ser implantado. Quaisquer problemas que possam resultar em riscos altíssimos devem ser relatados às pessoas apropriadas.

Simplificando, se não é possível conseguir prever o que seu sistema fará, e não é possível monitorá-lo, não se deve implantar. Um bom exemplo aqui é o TayBot da Microsoft, que continuou a operar muito depois de produzir conteúdo problemático. No entanto, isso precisa ser entendido no contexto do resto do Código - por quê o TayBot era tão problemático? Talvez seja porque estava violando outros aspectos do código, particularmente em termos de discriminação, qualidade do trabalho e prevenção de danos. Por isso é importante que as pessoas não olhem apenas uma vez para os princípios que fazem referência direta ao seu projeto, ou lê-lo integralmente uma vez.

InfoQ: Como você responde a alguém que diz que o objetivo de uma empresa é devolver valor a seus acionistas e não ter ética ou fazer um bem social?

Flick: O propósito original dos negócios é servir a sociedade. Se a pessoa não atende à sociedade, é muito improvável que alguém compre seu produto. Ainda mais hoje em dia, em que há uma enorme pressão da sociedade em exigir práticas comerciais mais éticas. Também vimos a resistência de funcionários de várias empresas bem conhecidas em relação a problemas éticos, por isso há incentivos tanto internos, quanto externos para tecnologias mais éticas. Estamos vendo mais demanda por questões ambientais, de sustentabilidade e também maior preocupação com o impacto social das tecnologias.

As pessoas estão preocupadas com os seus dados, com a sua privacidade, com os seus filhos, enfim, com todos os tipos de questões éticas que os afetam. O fato de que muitas dessas empresas puderam operar em uma área relativamente cinzenta por tanto tempo significou que realmente vimos até onde elas podem ir. Há agora demandas para os governos regularem estes setores mais fortemente, como pode ser visto no GDPR - General Data Protection Regulation (Regulamento Geral sobre a Proteção de Dados). Então, estamos vendo uma demanda por ética na tecnologia - e é provavelmente por isso que todas as grandes empresas de consultoria de repente desenvolveram os serviços de "Responsible Tech"!

InfoQ: Qual a sua opinião sobre o papel da regulamentação e da certificação em ética?

Flick: Seria muito difícil certificar os profissionais do setor de tecnologia. Ao contrário digamos dos setores da engenharia civil ou da medicina, existe uma enorme variedade de profissões que são incorporadas à indústria de tecnologia, e podemos "fazer tecnologia" muito cedo e com ferramentas e habilidades de fácil acesso. Qualquer um que quisesse exigir certificação precisaria restringir um pouco o seu escopo, o que pode ser possível - no entanto, se uma pessoa fosse trabalhar em uma infraestrutura de alto nível, talvez precisasse ter um certificado para um certo nível de competência. Certamente, há muita certificação disponível neste campo - porém é bastante específica para funções de trabalho e usadas para impulsionar determinadas abordagens, por exemplo, o gerenciamento de projetos ou a segurança de rede. O código também é voltado para aspirantes a profissionais - no entanto, queremos que alunos, técnicos autodidatas e qualquer outra pessoa que use computadores de maneiras significativas observem o código e o que tem a dizer sobre o que estão criando - ou seja, se é aceitável para a profissão. Novos membros aderiram à ACM por causa do código - gostam do que vêem, é como se fosse uma espécie de "juramento" que podem se apoiar e usar para orientar o trabalho além de verificar se seus empregadores estão pedindo algo antiético. Ter o peso da maior organização profissional por trás deles certamente ajuda, como vimos no caso das pressões de funcionários do Google.

A regulamentação é outra questão, sabemos, de muitos exemplos, que os reguladores geralmente erram. É importante que os profissionais do setor de computação estejam envolvidos para ajudar os governos a decidir quais regulamentações devem ser implementadas e quais impactos podem ter; eticamente, no entanto, as partes interessadas não devem pressionar por uma regulamentação organizacional (ou pessoal) particular, mas por uma regulamentação que promova o bem público. Certamente, o papel da ACM também é significativo - os membros da ACM devem obedecer ao Código de Ética, e se violarem e forem denunciados por essa violação, podem ser potencialmente removidos da ACM (junto com outras sanções mais leves dependendo do resultado da investigação). Como o código representa a consciência da profissão, deve ser indesejável a qualquer profissional ser removido de tal organização.

InfoQ: Onde os leitores InfoQ podem buscar conteúdos online sobre ética?

Flick: A maioria das fontes úteis online são bastante específicas. Ao lado do código de ética da ACM, há o código de ética da IEEE / ACM Software Engineering. Abordagens como "inovação responsável" estão entrando em moda na Europa, com ferramentas como a de inovação responsável de autocontrole voltada para empresas que desenvolvem tecnologia, bem como roteiros para alguns setores que buscam moldar a inovação ética nesses setores. Estudos de caso e outros documentos estão disponíveis na Orbit, que analisa especificamente a inovação responsável em TIC no Reino Unido.

A ética em Inteligência Artificial é um grande setor no momento, com muitas organizações apresentando suas próprias diretrizes para a IA responsável/ética. Acredito que alguns dos melhores trabalhos estão sendo conduzidos no Instituto Alan Turing sobre ética.

Sobre a entrevistada

A Drª Catherine Flick é uma pesquisadora em computação e responsabilidade social no Centro de Computação e Responsabilidade Social da Universidade De Montfort. Ela é membro do Comitê de Ética Profissional da ACM e foi membro do comitê de atualização do Código de Ética da ACM. Ela ensina métodos de pesquisa e ética na computação e hospeda um podcast sobre ética e videogames chamado "Not Just A Game"....