Por que ‘Não seja mau’ não é bom o suficiente đủ

By | June 21, 2021

Durante anos, a ética foi uma questão fundamental em tecnologia, se ela vier à tona. Os desenvolvedores de software e empreendedores de tecnologia se concentram na solução de problemas técnicos ou de codificação, criando soluções funcionais para problemas descritos nas especificações do projeto.

Resolver o problema em questão é o objetivo. As preocupações com as implicações éticas da melhor solução são acadêmicas.

No entanto, esse cenário está mudando. Nos últimos anos, “o campo da tecnologia tornou-se cada vez mais cético, investigativo e sério – a mudança de ver o Vale do Silício como uma novidade para vê-lo como o centro de poder que se tornou”, escreve Anna Wiener no The New Yorker .

Desde que Wiener escreveu essas palavras, dois outros desenvolvimentos importantes mudaram ainda mais o cenário: uma pandemia global que força milhões de pessoas a trabalhar remotamente e um processo antitruste movido pelo governo dos Estados Unidos. Ky moveu ação contra o Google.

Em meio a todas essas mudanças, há uma necessidade crescente de as empresas de tecnologia considerarem as implicações éticas de seus serviços e assumirem a responsabilidade por erros.

Aqui está o problema: muitas empresas de tecnologia operam há anos em sistemas éticos que não são desenvolvidos o suficiente para lidar com a multiplicidade de papéis que a tecnologia desempenha em nossas vidas.

‘Não faça o mal’ = / = ‘Faça o bem’

No cerne da questão ética em startups de tecnologia está a questão “O que torna o software bom?”

Para um desenvolvedor ou startup de tecnologia, um bom software deve ser contínuo, eficiente e intuitivo para o usuário. No entanto, o software que atende a essas condições, embora seja bom para seus criadores, não pode Faz bom para seus usuários, escreve Wiener.

Os desenvolvedores de software individuais podem ver os problemas à medida que surgem, mas os desenvolvedores não têm muitas fontes de orientação fora da direção das empresas de tecnologia que atendem.

E a orientação dada pelas melhores empresas de tecnologia pode ser questionável. Por exemplo, o agora famoso código de ética do Google, “Não seja mau”, teve problemas quase imediatamente quando foi incluído no prospecto de 2004 da empresa.

Embora a empresa tenha grandes esperanças de manter sua integridade ética “, o ponto é que a limpeza requer um modelo de negócios para apoiá-la e, em 2000, os capitalistas de risco investidos no Google mostraram que [Sergey Brin and Larry Page, Google’s founders] que eles não têm “, escreveu John Naughton no The Guardian.

A resposta do Google – venda de anúncios com base em dados agregados do usuário – levanta suas próprias preocupações éticas. Ainda não está claro se a publicidade direcionada ajudará o cliente ou a empresa, mas estimulou uma corrida pelos dados do usuário, que podem ser usados ​​para outros fins. Injusto, escreve David Dayen em The New Republic.

No final das contas, o Google nem conseguiu cumprir seu objetivo de evitar o mal, diz Ross LaJeunesse, ex-diretor de relações internacionais do Google. LaJeunesse deixou a empresa em 2019 após 11 anos no Google, citando preocupações sobre a disposição da empresa em cooperar com os requisitos de censura na China e suspeitas de que o Google estava buscando acordos ativamente com o governo da Arábia Saudita.

Antes de sair, LaJeunesse disse, ele pressionou por um Programa de Direitos Humanos em toda a empresa, que forneceria às equipes corporativas mais orientação ética do que “não seja mau”. No entanto, todas as tentativas de lançar o programa encontraram resistência.

“Foi então que percebi que a empresa nunca teve a intenção de incorporar os princípios dos direitos humanos em seus negócios e decisões de produto”, escreveu ele. “Justamente quando o Google precisava dobrar seu compromisso com os direitos humanos, o Google decidiu buscar lucros maiores e um preço de ação ainda mais alto.”

Conformidade = / = Bom, Ou

Vale a pena falar sobre o processo antitruste do Google aqui.

O Departamento de Justiça dos Estados Unidos, em seu processo, alega que o Google atua como “o guardião da Internet”.

“O Google foi acusado em um processo há muito antecipado de prejudicar a concorrência na busca na Internet e na publicidade em buscas por meio de acordos de distribuição – contratos que o Google paga a outras empresas. Milhões de dólares para priorizar seus mecanismos de busca em seus produtos – e outras restrições impostas a seus motores de busca pela repórter do Guardian Kari Paul.

Seja qual for o resultado desse processo, é importante lembrar que, mesmo que o governo dos Estados Unidos force o Google ou qualquer outra empresa de tecnologia a uma posição menos exclusiva, ele não elimina o meio ou responsabiliza a empresa por suas violações éticas anteriores.

Meninas sendo intimidadas online;  conceito de ética e tecnologia

Esforços para Codificar ‘Bom’ no Desenvolvimento de Software

Algum esforço foi feito para fornecer orientação ética para desenvolvedores em áreas especializadas, em vez de deixar os desenvolvedores ao sabor de empregadores individuais.

Por exemplo, o Padrão Internacional para Desenvolvimento de Software Profissional e Responsabilidade Ética, emitido pelo IEEE-CS / ACM, reconhece que “engenheiros de software têm uma oportunidade substancial de fazer o bem ou o mal, permitindo que outros façam o bem ou prejudiquem ou influenciem outros a fazer bem ou mal. ”

O documento tenta fornecer orientações abrangentes em oito áreas, embora reconheça que só pode fornecer orientações de forma abstrata.

No entanto, para abordar as questões éticas da tecnologia, conselhos de ética e documentos consultivos não serão suficientes, disse Andrew Maynard, diretor do Laboratório de inovação de risco da Universidade do Estado do Arizona: as empresas também precisam se concentrar nos resultados, o caminho muitas vezes sinuoso entre metas ambiciosas e o que acontece quando a borracha atinge a estrada. ”

Quando as empresas não consideram os resultados de forma ampla, podem ocorrer cenários de pesadelo.

Um erro sublime

Em 2019, a startup Superhuman ganhou as manchetes quando o executivo de tecnologia Mike Davidson descobriu um recurso interessante no software de e-mail da empresa: o uso de pixels incorporados para rastrear a visualização das pessoas se os destinatários abriam ou não seus e-mails, quando e onde. Este recurso é executado por padrão e os destinatários de e-mail da caixa de entrada do Superman não podem optar por não enviar essas informações ao remetente do e-mail.

Davidson destaca as preocupações com privacidade e segurança que esse recurso gera: “Pergunte a si mesmo se você espera que essas informações sejam coletadas sobre você e repassadas a seus pais, seu filho ou filho., Seu cônjuge, colega de trabalho, vendedor, ex , um estranho aleatório ou perseguidor toda vez que você lê seu e-mail ”.

Como esse recurso alcançou os consumidores? Resumindo: não considera as implicações éticas de recibos de leitura de múltiplas perspectivas.

Rahul Vohra, fundador e CEO da Superhuman, disse: “Eu entendo que realmente existem cenários de pesadelo envolvendo rastreamento de localização. “… Quando construímos o Superhuman, focamos apenas nas necessidades de nossos clientes. Não consideramos maus atores em potencial. ”

Pequenas decisões, grande impacto

Mesmo as pequenas decisões são importantes para construir a ética de uma empresa, diz Davidson. Essas pequenas decisões se acumulam com o tempo, tornando-se hábitos que definem como uma empresa faz negócios.

Distribuídas a um número suficiente de clientes, essas pequenas decisões também começam a mudar a maneira como os clientes pensam. Os clientes que veem recursos antiéticos ou questionáveis ​​no software podem presumir que o recurso é legal (ou não será). Eles também podem não considerar se é ético usar o recurso, disse Davidson.

Recursos que tratam de questões de privacidade ou segurança, por exemplo, podem fazer com que os clientes ignorem completamente a questão ética se os recursos forem apresentados como padrão. Esses clientes não pensam: “Espere, devo usar isso?” quando a confirmação de leitura é exibida como padrão ou quando as funções de exclusão não estão incluídas.

Davidson escreve: “Superhuman ensina seus usuários a fazer pesquisas por padrão. “Eu imagino muitos usuários se inscrevendo neste recurso, vendo o recurso e dizendo a si mesmos ‘Ótimo! Leia as receitas! Acho que é uma daquelas coisas que $ 30 por mês me compra. ‘”

Programador em escritório de empresa de desenvolvimento de software;  conceito de ética e tecnologia

Construindo um futuro ético para empreendedores de tecnologia

A ética da empresa é importante para os candidatos a emprego de hoje. Cada vez mais, eles são mais importantes para os clientes.

Larry Alton, da Forbes, escreve: Startups de tecnologia e outros negócios seguem padrões relacionados a negociações justas, sustentabilidade, segurança de dados, privacidade, diversidade e importação de inclusão. As empresas de tecnologia não podem mais deixar esses problemas passarem ou esperar que uma resposta gentil como “Não seja mau” irá resolvê-los com eficácia.

Daniel Alcanja escreve no Simple Programmer: “À primeira vista, é fácil pensar que a parte técnica do desenvolvimento não está diretamente relacionada à vida humana. “Afinal, são os métodos de negócios que realmente afetam os usuários.”

No entanto, como os desenvolvedores de software são as pessoas mais próximas da criação e funcionalidade do software, os desenvolvedores conhecem melhor o software. Como resultado, os desenvolvedores estão em uma posição única para lidar com as principais questões éticas – o que significa que eles também têm a responsabilidade ética de fazê-lo, disse a Alcanja.

Mas o que exatamente essa responsabilidade moral acarreta?

“A diferença entre o que você, como desenvolvedor de software, pode fazer legalmente em uma única camada e o que você Castiçal Olga V. Mack escreve na VentureBeat.

O problema é que as empresas para as quais esses desenvolvedores trabalham podem ser mais uma fonte de alegações antiéticas do que uma fonte de orientação sobre o curso de ação adequado. Além disso, o trabalho do programador não é de responsabilidade de manter a ética da empresa. É um trabalho que requer a participação e esforço de todos muito mais elevados do que a cadeia de comando.

Existem pessoas e organizações tentando empurrar o setor de tecnologia na direção certa. Por exemplo, a Ethics in Entrepreneurship, fundada pela denunciante de Theranos, Erika Cheung, está trabalhando para construir e nutrir bases éticas mais sólidas no setor de tecnologia.

Internamente, gerentes e executivos precisam de suas próprias fontes de orientação ética, assim como as empresas para as quais trabalham – e os investidores que essas empresas enfrentam.

Foi um projeto que durou décadas. Para começar, Max Wessel e Nicole Helmer da SAP sugerem uma estrutura de três pontos para as empresas orientarem suas inovações em direção a resultados mais éticos:

  1. Suponha que sua inovação se torne o porta-estandarte. “Suponha que você se torne dominante”, escrevem Wessel e Helmer. “Em seguida, pergunte o que tem mais probabilidade de quebrar, o que pode ser feito para evitar problemas e o que fazer quando isso acontecer.”
  2. Identifique e documente as proteções presentes no mercado que sua inovação interrompeu e, em seguida, imagine como o efeito que seu produto criou poderia ser usado para evitar essas proteções quando sua tecnologia cair em mãos descuidadas. Por exemplo, pense no Airbnb e seus problemas internos.
  3. Identifique de forma clara e inequívoca as pessoas ou grupos responsáveis ​​por reaplicar tais proteções.

Como Wessel e Helmer disseram, este é o caminho para o sucesso tecnológico e “[taking] responsabilidade pelo futuro será criada ”quando você alcançar esse sucesso.

A imagem de: Peter G., Katarzyna Bialasiewicz / © 123RF.com, scyther5 / © 123RF.com

Últimos posts de Dani Ryskamp (veja tudo)

Leave a Reply

Your email address will not be published. Required fields are marked *