Bill Gates diz para se preparar por 20 anos de disrupção 'tumultuosa' da IA

Hoje, estou conversando com Bill Gates, cofundador e ex-CEO da Microsoft e presidente da Fundação Gates. Você pode ter notado Bill mais nas notícias ultimamente — ele tem feito uma espécie de turnê nos últimos meses, desde que publicou um ensaio no final de agosto intitulado "A era turbulenta da IA chegou. As escolhas que fazemos agora são críticas". Em seu artigo, Gates intensificou sua retórica em torno da segurança da IA, escrevendo que "mesmo nas melhores circunstâncias, a transição para esta nova era da IA será um dos períodos mais turbulentos da história humana". Em entrevistas desde então, Gates chamou a IA de "a coisa mais perigosa que os humanos já se aproximaram" e que a IA "faz as armas nucleares parecerem nada". Está claro que ele não acha que a resposta política atual da Casa Branca, ou a falta de esforços coordenados da própria indústria de IA, é suficiente para combater essa ameaça. Assinantes do Verge, não se esqueçam de que vocês têm acesso exclusivo ao Decoder sem anúncios, onde quer que obtenham seus podcasts. Acesse aqui. Não é assinante? Você pode se inscrever aqui. Então eu queria saber: Bill Gates é um 'doomer' da IA? Eu também tinha uma série de perguntas derivadas do que ele tem argumentado sobre IA. Como podemos esperar controlar a IA e alinhá-la à humanidade, se nem podemos concordar sobre o que ela é e se ela é consciente? Como você construiria tecnicamente uma solução para o alinhamento que pudesse ser aplicada, não apenas para modelos de código fechado, mas também para os de código aberto? Gates nos deu um bom pedaço do seu tempo para aprofundar essas questões com ele, e a conversa resultante é realmente esclarecedora. Ele acha que n