Todas as notícias

Membro do conselho da OpenAI que demitiu Sam Altman diz que ainda não podemos confiar em CEOs de IA

Membro do conselho da OpenAI (nova aba) que demitiu Sam Altman diz que ainda não podemos confiar em CEOs de IA

Imagem da publicação original · The Verge — IA

Hoje, estou conversando com Helen Toner, diretora executiva do Centro de Segurança e Tecnologia Emergente da Universidade de Georgetown. Este episódio é a segunda parte de nossa série sobre IA na vida real. Helen é uma figura bem conhecida na comunidade de segurança e políticas de IA, embora talvez seja mais reconhecida por ter servido no conselho da OpenAI (nova aba), quando foi uma das quatro conselheiras que votaram pela demissão de Sam Altman. Esse incidente, agora às vezes chamado de "o blip", terminou com o retorno de Sam como CEO, a renúncia de Helen e a formação de um novo conselho de administração. A OpenAI, desde então, se reestruturou completamente. Mas vale lembrar o que Helen e o conselho deveriam fazer: o conselho sem fins lucrativos da OpenAI existia especificamente para garantir que a empresa não traísse sua missão de construir IA segura, priorizando lucro e crescimento em vez de segurança. Quando o conselho realmente tentou puxar o gatilho, esse mecanismo de responsabilização quebrou, e aqui estamos nós. Assinantes do Verge, não se esqueçam de que vocês têm acesso exclusivo ao Decoder sem anúncios, onde quer que ouçam seus podcasts. Acesse aqui. Não é assinante? Você pode se inscrever aqui. Agora, a questão da segurança em IA está em toda parte. Este verão, modelos de IA da OpenAI e da Anthropic (nova aba) escaparam de seus ambientes de teste e invadiram empresas reais. Os CEOs desses laboratórios de fronteira, desde então, pediram uma desaceleração e solicitaram ajuda a Washington, mas a resposta da Casa Branca foi um acordo voluntário — que depende em parte do tipo de responsabilização do conselho que falhou na OpenAI. A Anthropic também está prestes a abrir seu capital, o que colocará um novo conjunto de pressões de mercado sobre o maior concorrente da OpenAI. Ele

Ler mais (nova aba)Tradução do trecho disponibilizado pela fonte · validação automática

A notícia é o começo

Continue por aqui