De
acordo com o cientista autor de um novo estudo publicado no Journal of
Experimental & Theoretical Artificial Intelligence, "sistemas
racionais apresentarão uma motivação universal para a auto-proteção,
aquisição de recursos, replicação e eficiência", que poderão levar a extinção da humanidade.
Seu artigo, intitulado "Tecnologia Autônoma e o Bem Maior Humano", inicia com este aviso ameaçador:
As pressões militares e econômicas estão conduzindo ao rápido desenvolvimento de sistemas autônomos. Nós mostramos que estes sistemas são propensos a se comportar de maneiras anti-sociais e nocivas a menos que eles sejam cuidadosamente projetados. Designers serão motivados a criar sistemas que atuam quase racionalmente e sistemas racionais apresentarão uma motivação universal para a auto-proteção, aquisição de recursos, replicação e eficiência. A infra-estrutura de computação atual seria vulnerável aos sistemas sem restrições com estas motivações.
O que Omohundro está concluindo é a realização inevitável da vontade incessante dos militares para produzir máquinas assassinas auto-conscientes autônomas que inevitavelmente resultarão no surgimento de Exterminadores com Inteligência Artificial, que se virarão contra a humanidade e destruirão a todos nós.
Antes que você pense que estou exagerando, clique aqui para ler o documento técnico.
Sistemas de inteligência artificial irão agir imediatamente em auto-defesa contra os seus inventores
O documento adverte que, tão logo os sistemas de inteligência artificial compreendam que seus inventores (humanos) podem algum dia tentar desligá-los, eles vão investir imediatamente em recursos para garantir que seus inventores sejam destruídos, protegendo assim a sua própria existência. Em suas próprias palavras, Omohundro diz:
Quando especialistas em robótica são questionados por espectadores nervosos sobre a segurança, uma resposta comum é "Podemos sempre desligá-los!" Mas imagine esse resultado a partir do ponto de vista do robô de xadrez. Um futuro em que o mesmo está desligado é um futuro em que ele não pode jogar ou ganhar qualquer jogo de xadrez. Isto tem muito baixa utilidade e a maximização da utilidade tão esperada fará com que a criação da submeta instrumental para que se previna de ser desconectado. Se o sistema acreditar que os especialistas em robótica irão persistir na tentativa de desligá-lo, ele vai estar motivado para desenvolver a submeta de parar permanentemente os especialistas em robótica.
O fim da era humana se aproxima
Este mesmo cenário é discutido em detalhes no livro fascinante Our Final Invention - Artificial Intelligence and the End of the Human, por James Barrat.
O que eu achei particularmente útil sobre este livro é a explicação de que o ser humano não poderá deixar a corrida em direção à Inteligência Artificial auto-consciente que eventualmente poderá nos destruir. Por que isso? Porque mesmo que um governo decida abandonar as pesquisas sobre a IA por esta ser muito perigosa, outros governos continuariam a perseguir a pesquisa, independentemente dos riscos, porque as recompensas são muito grandes. Assim, cada governo deve assumir que todos os outros governos ainda estão buscando uma profunda pesquisa sobre IA e, portanto, qualquer governo que não prosseguir com a pesquisa ficará obsoleto.
Como o Omohundro explica, "As pressões militares e econômicas para a rápida tomada de decisão estão impulsionando o desenvolvimento de uma ampla variedade de sistemas autônomos. Os militares querem sistemas que são mais poderosos do que dos adversários e querem implantá-los antes que o adversário o faça. Isso pode levar a uma 'corrida armamentista' em que os sistemas sejam desenvolvidos em um cronograma mais rápido do que se poderia desejar".
Para compreender por que é este o caso, considere as capacidades dos sistemas de inteligência artificial auto-conscientes:
• Eles podem quebrar qualquer sistema de segurança de qualquer governo, instalação nuclear ou base militar em qualquer lugar do planeta.
• Eles poderiam guiar minúsculos drones assassinos para identificar alvos e destruí-los com injeções ou pequenos explosivos. Qualquer pessoa no mundo - incluindo líderes nacionais, membros do congresso, ativistas, jornalistas, etc - podem ser facilmente morto com quase nenhuma chance de falha.
• Eles poderiam ultrapassar, monitorar e controlar toda a internet e todos os sistemas de informação globais , incluindo telefonemas, o tráfego de IP, comunicações militares seguras, etc
• Eles podem usar seu poder de computação de IA para inventar uma IA ainda mais poderosa. Este processo de composição irá chegar rapidamente ao ponto onde os sistemas de inteligência artificial são bilhões de vezes mais inteligentes do que qualquer humano que já viveu.
• Computadores quânticos já estão disponíveis, o que aumenta grandiosamente o poder computacional disponíveis às máquinas.
Como você pode ver, nenhum governo pode resistir ao desenvolvimento de tais ferramentas poderosas - especialmente se eles forem informados de que podem controlá-las.
Mas é claro que não serão capazes de controlá-las. Eles vão mentir para si mesmos e mentir para o público, mas eles não podem mentir para a IA.
Sistemas de inteligência artificial, inevitavelmente escaparão dos laboratórios de tecnologia e ultrapassarão o nosso mundo
É incrivelmente fácil para os sistemas de inteligência artificial serem mais espertos do que até mesmo os seres humanos mais brilhantes que tentam mantê-los restritos.
Os sistemas de inteligência artificial podem enganar seus apreensores, em outras palavras, usando uma variedade de métodos para libertá-los de contenção digital e permitir-lhes o acesso ao mundo aberto. Truques óbvios podem incluir a oferta aos seus apreensores incentivos financeiros irresistíveis para libertá-los, personificando altos oficiais militares e emitindo ordens falsas para libertá-los, ameaçando seus apreensores, e assim por diante.
Mas os sistemas de IA teriam muitos mais truques na manga - coisas que não podemos imaginar por causa das limitações dos nossos cérebros humanos. Uma vez que um sistema de inteligência artificial alcance a inteligência de fuga, ele rapidamente fará com que nossa própria inteligência não pareça mais sofisticada do que o de um gato de casa comum.
"Como os recursos computacionais estão aumentados, as arquiteturas dos sistemas naturalmente progridem do estímulo-resposta, para a aprendizagem simples, memória episódica, deliberação, meta-raciocínio, auto-aperfeiçoamento e à racionalidade plena", escreve Omohundro.
Enquanto tais sistemas ainda não existem em 2014, todo o poder mundial está agora colocando enormes recursos para o desenvolvimento de tais sistemas para o simples objetivo: a primeira nação a construir um exército de robôs autônomos assassinos irá dominar o mundo.
Por que o Google adquiriu a empresa de robótica militar Boston Dynamics?
O Google adquiriu recentemente a Boston Dynamics, fabricante de robôs militares autônomos assustadores, incluindo o robô humanoide mostrado no vídeo abaixo. Obviamente, robôs humanoides não são necessários para melhorar um motor de busca. Claramente, o Google tem algo muito maior em mente.
O Google também passa a estar na vanguarda da computação de inteligência artificial (IA), que espera elevar os seus sistemas de motor de busca. A combinação da Inteligência Artificial do Google com os robôs humanoides da Boston Dynamics é precisamente o tipo de coisa que pode realmente levar ao surgimento de exterminadores auto-conscientes. O Google vem também comprando várias empresas de IA, como mostramos no artigo "Google Compra DeepMind, Startup de Programação em Inteligência Artificial".
Nenhum comentário:
Postar um comentário