Elon Musk adere à carta aberta que pede a suspensão imediata do desenvolvimento de IAs com habilidades quase humanas

 

O homem mais rico do mundo tem sido frequentemente alvo da mídia devido aos seus projetos de ficção científica, como a colonização de Marte, o que o torna um defensor do desenvolvimento científico e tecnológico. A sua recente adesão à carta aberta lançada pelo Future of Life Institute, um grupo sem fins lucrativos, aumenta ainda mais a sua credibilidade.

Em sua carta aberta divulgada nesta quarta-feira, o Future of Life Institute solicita a suspensão imediata do desenvolvimento e treinamento de inteligências artificiais (IAs) cujas habilidades possam competir com as dos seres humanos em qualquer área. O grupo, formado por empresários, acadêmicos e pesquisadores, entre outros, argumenta que o desenvolvimento das IAs está "fora de controle" e pode colocar em risco a sobrevivência da humanidade.

Para enfrentar esse desafio, o grupo está pedindo aos laboratórios de IAs que interrompam seus trabalhos por pelo menos seis meses para se juntarem a um esforço coletivo na criação de rigorosos protocolos de segurança, supervisão e rastreamento de IAs com habilidades quase humanas, como o novo ChatGPT-4, criado pela startup OpenAI. Essa ação é necessária para garantir que as IAs sejam desenvolvidas de forma segura e ética, visando o benefício da humanidade e não a sua destruição.

Veja o que ele disse em sua carta

"Sistemas de IA com inteligência comparável à humana podem representar riscos profundos para a sociedade e a humanidade, como demonstrado por extensas pesquisas [1] e reconhecido pelos principais laboratórios de IA [2]. Como afirmado nos amplamente endossados Princípios de IA de Asilomar, a IA avançada poderia representar uma mudança profunda na história da vida na Terra e deve ser planejada e gerenciada com cuidado e recursos proporcionais. Infelizmente, esse nível de planejamento e gerenciamento não está acontecendo, mesmo que nos últimos meses os laboratórios de IA estejam em uma corrida descontrolada para desenvolver e implantar mentes digitais cada vez mais poderosas que ninguém - nem mesmo seus criadores - podem entender, prever ou controlar de forma confiável.

Os sistemas de IA contemporâneos estão se tornando competitivos em tarefas gerais comparáveis às realizadas por humanos [3], e devemos nos perguntar: devemos permitir que máquinas inundem nossos canais de informação com propaganda e mentiras? Devemos automatizar todos os empregos, incluindo os satisfatórios? Devemos desenvolver mentes não humanas que eventualmente possam superar, obsoletar e substituir a nossa? Devemos arriscar a perda do controle de nossa civilização? Essas decisões não devem ser delegadas a líderes tecnológicos não eleitos. Sistemas de IA poderosos devem ser desenvolvidos somente quando estivermos confiantes de que seus efeitos serão positivos e seus riscos serão gerenciáveis. Essa confiança deve ser bem justificada e aumentar com a magnitude dos efeitos potenciais de um sistema. A declaração recente da OpenAI sobre inteligência geral artificial afirma que "em algum momento, pode ser importante obter uma revisão independente antes de começar a treinar sistemas futuros e, para os esforços mais avançados, concordar em limitar a taxa de crescimento do computo usado para criar novos modelos." Nós concordamos. Esse momento é agora.