OpenAI presentes o conceito de super alinhamento, um passo significativo na gestão dos riscos associados à superinteligência. A superinteligência, considerada a tecnologia de maior impacto já inventada pela humanidade, pode ajudar a resolver muitos dos problemas mais importantes do mundo. No entanto, o grande poder do superinteligência também pode ser muito perigoso, levando ao enfraquecimento da humanidade ou mesmo à extinção humana.
OpenAI apresenta Superalignment: a tentativa de "alinhar" a inteligência artificial com a intenção humana
Embora a superinteligência possa parecer distante, a OpenAI acredita que pode estar chegando nesta década. Gerenciar esses riscos exigirá, entre outras coisas, novas instituições para governança e resolução do problema de alinhamento da superinteligência: Como sistemas de IA muito mais inteligentes que os humanos podem garantir que sigam a intenção humana?
Atualmente, não há solução para guiar ou controlar um sistema de superinteligência. Técnicas atuais de alinhamento de IA eles confiam na capacidade dos humanos de supervisionar a IA, que não será escalável para superinteligência. O objetivo da OpenAI é construir um buscador automatizado de alinhamento de nível humano. Para atingir esse objetivo, métodos de treinamento escaláveis precisam ser desenvolvidos.
Veja também: AI e AGI: CEO do Google, DeepMind, prevê um avanço iminente
A OpenAI está reunindo uma equipe dos principais pesquisadores e engenheiros de aprendizado de máquina para trabalhar nesse problema. 20% do poder de computação disponível nos próximos quatro anos será dedicado a resolver este problema. O objetivo é resolver os principais desafios técnicos do alinhamento da superinteligência em quatro anos. A OpenAI convida todos aqueles que obtiveram sucesso no aprendizado de máquina a focar sua atenção no alinhamento. Os frutos desse esforço serão amplamente compartilhados, e o alinhamento e a segurança dos modelos não OpenAI são importantes. Deve-se notar que a empresa também trabalhará para melhorar a segurança dos modelos atuais e abordar outros riscos da IA.
Resolver o alinhamento da superinteligência requer as melhores mentes do mundo. IA aberta incentiva a colaboração interdisciplinar e envolvimento ativo com questões sociotécnicas relacionadas ao alinhamento da superinteligência.
