OpenAI, a empresa de inteligência artificial que surpreendeu o mundo com suas inovações, está se formando um novo órgão da indústria. O alvo? Promover o desenvolvimento seguro e responsável de sistemas de IA de fronteira. Este é um passo importante, pois tanto os governos quanto a indústria concordam que, apesar daA IA oferece uma enorme promessa para o benefício do mundomedidas de segurança adequadas são necessárias para mitigar os riscos.
OpenAI, Anthropic, Google e Microsoft: as três áreas-chave para um futuro seguro da IA
Il Fórum Modelo de Fronteira (esse é o nome) se concentrará em três áreas principais no próximo ano para apoiar o desenvolvimento seguro e responsável de modelos de IA de fronteira. Em primeiro lugar, identificará as melhores práticas, promovendo o compartilhamento de conhecimento entre indústria, governos, sociedade civil e academia. Em segundo lugar, apoiará pesquisas sobre segurança de IA, identificando as questões de pesquisa mais importantes neste campo. No fim, facilitará o compartilhamento de informações entre empresas e governos, estabelecendo mecanismos seguros e confiáveis para compartilhar informações relacionadas à segurança e riscos de IA.
Veja também: OpenAI apresenta superalinhamento: como a IA pode seguir a intenção humana
Um compromisso compartilhado para um futuro seguro da IA
Numerosos líderes da indústria expressaram seu entusiasmo por esta iniciativa. Kent Caminhante, Presidente de Assuntos Globais da Google & Alphabet, disse: “Estamos entusiasmados em trabalhar em conjunto com outras empresas líderes, compartilhando conhecimentos técnicos para impulsionar a inovação responsável em IA. Todos devemos trabalhar juntos para garantir que a IA beneficie a todos“. Também Prego ferreiro, vice-presidente e presidente da Microsoft, destacou a importância desta iniciativa: “As empresas que criam tecnologia de IA têm a responsabilidade de garantir que ela seja segura e permaneça sob controle humano. Esta iniciativa é um passo fundamental para reunir o setor de tecnologia para promover a IA de forma responsável e enfrentar os desafios de uma forma que beneficie toda a humanidade.".
Anna Makanju, vice-presidente de Assuntos Globais da OpenAI, enfatizou que as tecnologias avançadas de IA têm o potencial de trazer benefícios profundos para a sociedade. Ele afirmou que a realização desse potencial requer supervisão e governança. Ele enfatizou a importância das empresas de IA, especialmente aquelas que trabalham nos modelos mais poderosos, alinhando-se em um terreno comum e promovendo práticas de segurança inteligentes e adaptáveis. Isso, disse ele, garantirá que poderosas ferramentas de IA tenham a maior vantagem possível. Ele enfatizou que este é um trabalho urgente e que o fórum está bem posicionado para agir rapidamente para melhorar o estado da segurança da IA.
