Coleções

Atitudes de IA: O que os especialistas consideram sobre preocupação

Atitudes de IA: O que os especialistas consideram sobre preocupação


We are searching data for your request:

Forums and discussions:
Manuals and reference books:
Data from registers:
Wait the end of the search in all databases.
Upon completion, a link will appear to access the found materials.

Como vimos em Nosso admirável mundo novo: por que o avanço da IA ​​levanta preocupações éticas, existem algumas áreas em que o uso da IA ​​parece menos do que vantajoso para a sociedade. Eles incluem preconceito racial promulgado no reconhecimento facial e outras fórmulas secretas algorítmicas, bem como uma ameaça aos empregos e possivelmente até à segurança geral, de acordo com o cenário de pesadelo sugerido por Elon Musk.

Você pode ouvir Musk descrever suas preocupações sobre IA no vídeo abaixo.

O choque de pontos de vista entre Elon Musk e Mark Zuckerberg

Em 2017, quando Musk divulgou suas opiniões, ele levou Zuckerberg a expressar uma opinião muito mais “otimista” durante uma transmissão ao vivo do Facebook. Na verdade, Zuckerberg acusou que os irresponsáveis ​​não são os que buscam a IA, mas aqueles que enfatizam os perigos. Ele disse:

"E acho que as pessoas que são pessimistas e tentam criar cenários apocalípticos ... Simplesmente não entendo. É muito negativo e, de certa forma, acho muito irresponsável."

"Direto para você" poderia resumir a resposta de Musk à opinião de Zuckerberg, que ele expressou no Twitter: "Conversei com Mark sobre isso. Seu entendimento do assunto é limitado."

Portanto, Musk recorre a uma alegação de maior perícia para reforçar seu ponto de vista. Na verdade, porém, as abordagens otimista versus pessimista da IA ​​não são divididas por nível de especialização no assunto.

Os otimistas de IA

Vários especialistas em IA compartilham a opinião otimista de Zuckerberg. Por exemplo, Kevin Kelly, o cofundador da Com fio e autor de The Inevitable: Understanding the 12 Technological Forces That will Sha Shape Our Future. fez esta declaração abrangente: “O maior benefício da chegada da inteligência artificial é que as IAs ajudarão a definir a humanidade. Precisamos de IAs para nos dizer quem somos. ”

Kelly expandiu sua visão em uma entrevista à IBM: "Por meio da IA, vamos inventar muitos novos tipos de pensamento que não existem biologicamente e que não são como o pensamento humano."

Na opinião de Kelly, isso é totalmente positivo: "Portanto, essa inteligência não substitui o pensamento humano, mas o aumenta."

Outro otimista da IA ​​é o futurista e inventor Ray Kurzweil, que fez a seguinte declaração em uma entrevista de 2012:

“A inteligência artificial atingirá os níveis humanos por volta de 2029. Continue até, digamos, 2045, teremos multiplicado a inteligência, a inteligência da máquina biológica humana de nossa civilização um bilhão de vezes.”

Kurzweil o explicou como o equivalente a "singularidade" na ciência da física, porque seria "uma mudança profundamente perturbadora na história humana". Em última análise, ele prevê que o "pensamento humano se tornará um híbrido de pensamento biológico e não biológico".

Os pessimistas de IA

Também existem especialistas que não sonham com uma utopia em que a IA assuma empregos e muito do pensamento da humanidade. Eles veem a possibilidade de colocar a IA no comando de processos como algo perigoso.

Entre eles está Yuval Noah Harari, que escreveu Homo Deus: A Brief History of Tomorrow. Dentro do livro, o Professor Harari fez o seguinte pronunciamento:

“Você quer saber como ciborgues superinteligentes podem tratar humanos comuns de carne e osso? Melhor começar investigando como os humanos tratam seus primos animais menos inteligentes. Não é uma analogia perfeita, claro, mas é o melhor arquétipo que podemos realmente observar, em vez de apenas imaginar. ” 

A visão de Harari é o oposto dos futuristas positivos ao retratar a ascensão do que ele chama de "dataismo". em que os humanos cedem o terreno superior à inteligência artificial avançada. Este é um futuro dominado por um “sistema cósmico de processamento de dados” que é onipresente e onisciente e, como diria os borgs, a resistência é inútil.

O falecido físico teórico inglês, cosmólogo e autor que foi diretor de pesquisa do Centro de Cosmologia Teórica da Universidade de Cambridge, Stephen Hawking, também cai no campo pessimista. Como Harar, ele considerou a experiência humana em perseguir objetivos em se projetar nas possibilidades da IA ​​seguindo seus próprios ditames sem levar em conta a humanidade.

No vídeo a seguir, Stephen Hawking oferece uma visão muito pessimista da IA.

No início de 2015, durante uma sessão de perguntas e respostas do Reddit AMA (Ask Me Anything), Hawking recebeu a seguinte pergunta de um professor que queria saber como lidar com certas questões de IA que surgem em suas aulas:

Como você representaria suas próprias crenças para minha classe? Nossos pontos de vista são reconciliáveis? Você acha que meu hábito de descartar o estilo do Exterminador do Exterminador do leigo “IA do mal” é ingênuo? E, finalmente, que moral você acha que devo reforçar para meus alunos interessados ​​em IA?

A resposta de Hawking foi a seguinte:

O risco real com IA não é malícia, mas competência. Uma IA superinteligente será extremamente boa em cumprir seus objetivos e, se esses objetivos não estiverem alinhados com os nossos, estaremos em apuros. Você provavelmente não é um odiador de formigas malvado que pisa em formigas por maldade, mas se você está encarregado de um projeto de energia hidrelétrica verde e há um formigueiro na região a ser inundado, uma pena para as formigas. Não vamos colocar a humanidade na posição dessas formigas.

A ameaça de dominação da IA ​​é real?

Anthony Zador, professor de neurociência no Cold Spring Harbor Laboratory, e Yann LeCun, professor de ciência da computação na Universidade de Nova York e cientista-chefe de IA do Facebook, argumentam que a obsessão pela dominação da IA ​​é equivocada. Eles explicaram sua visão em um Americano científico blog intitulado Don't Fear the Terminator publicado em 26 de setembro de 2019.

Você pode ouvir Zador na IA neste vídeo:

LeCunn fala sobre outros aspectos da IA ​​neste vídeo:

Em resposta à pergunta: "Por que uma IA consciente deseja dominar o mundo?" eles oferecem a resposta simples de duas palavras: "Não seria."

Talvez eles tivessem o livro de Harari em mente quando abordaram o papel da inteligência na "dominação social" ao longo da "história evolutiva". Eles passaram a explicar em termos de uma ferramenta, em vez de um driver:

“E, de fato, a inteligência é uma adaptação poderosa, como chifres, garras afiadas ou a habilidade de voar, que podem facilitar a sobrevivência de várias maneiras. Mas a inteligência por si só não gera o impulso de dominação, não mais do que os chifres.

Portanto, os humanos usam sua inteligência para ajudá-los a sobreviver. Mas quando se trata de formas artificiais de inteligência, não existe tal “instinto de sobrevivência”, e é por isso que a IA não teria qualquer razão para assumir o controle dos humanos que a programam.

“Na IA, inteligência e sobrevivência estão dissociadas e, portanto, a inteligência pode servir a quaisquer objetivos que estabelecemos para ela.”

A preocupação infundada com tramas de ficção científica como a deVingadores: a era de Ultron, ou o que Zador e LeCun (possivelmente referindo-se à pergunta feita por Hawking) chamam de "o cenário do Terminator" é na verdade contraproducente porque "apenas nos distrai dos riscos reais da IA".

Devemos nos preocupar com os riscos de IA

Zador e LeCun continuam a distinguir sua posição daquela dos otimistas de IA. Musk realmente acertou em seu livro sobre a IA se tornar “armada”, bem como as outras ameaças que representa para a humanidade, incluindo a perda de empregos.

“Embora a IA melhore a produtividade, crie novos empregos e faça a economia crescer, os trabalhadores precisarão ser treinados novamente para os novos empregos e alguns serão inevitavelmente deixados para trás. Como acontece com muitas revoluções tecnológicas, a IA pode levar a novos aumentos na riqueza e nas desigualdades de renda, a menos que novas políticas fiscais sejam postas em prática. ”

Além dos riscos que já podem ser antecipados, existem aqueles que são "riscos imprevistos associados a qualquer nova tecnologia - os 'desconhecidos desconhecidos'."

Só porque não foram imaginados em um enredo de ficção científica não significa que não sejam motivo de preocupação, eles argumentam. Eles enfatizam que os humanos são os responsáveis ​​pelos resultados da IA ​​expandida, que não pode desenvolver qualquer agência ou ambição independente.

Embora enfatizando a responsabilidade humana, Zador e LeCun não traçam nenhum plano específico para evitar os riscos - conhecidos ou desconhecidos - das novas tecnologias.

Planejamento proativo para IA

Quer a solução seja uma regulamentação governamental, como sugeriu Musk, ou algum tipo de padrão da indústria, parece que algum tipo de planejamento com consciência dos perigos potenciais é adequado. Vários especialistas sugeriram exatamente isso.

O professor Klaus Schwab, fundador do Fórum Econômico Mundial que cunhou o termo “Quarta Revolução Industrial”, publicou suas idéias sobre a direção atual em 2016.

Como os futuristas positivos, ele imaginou que o futuro fundirá "os mundos físico, digital e biológico de maneiras que transformarão fundamentalmente a humanidade". Mas ele não tinha como certo que tudo daria certo ”, exortando as pessoas a planejarem com antecedência com consciência dos“ riscos e oportunidades que surgem ao longo do caminho ”.

Mesmo com carros sem motorista no horizonte, as pessoas ainda estão no assento do motorista quando se trata de planejar o que a IA deve fazer. “Não há nada artificial na IA”, declarou Fei-Fei Li, especialista na área. “É inspirado por pessoas, é criado por pessoas e - o mais importante - afeta as pessoas.”


Assista o vídeo: ARTE AGORA 2021 01 13 ALEX MONO (Junho 2022).


Comentários:

  1. Breine

    Tenha certeza.

  2. Camara

    Você comete um erro. Eu posso provar. Escreva para mim em PM, vamos discutir.

  3. Lavan

    Na minha opinião, um tópico muito interessante. Ofereça a todos participam ativamente da discussão.

  4. Shanos

    Nele algo está. Obviamente, muito obrigado pela informação.



Escreve uma mensagem