Resumo breve do RIA IA
- O presidente da Academia Russa de Ciências, Gennady Krasnikov, declarou que o desenvolvimento da inteligência artificial será acelerado e tornará-se mais difícil para os humanos controlá-lo.
- Para garantir a segurança, é necessário criar modelos em que uma IA controla outra.
- A base da inteligência artificial são os modelos de linguagem, e neste aspecto, as soluções das empresas nacionais são preferíveis; ao mesmo tempo, para aspectos práticos, são necessárias modelos mais precisos, treinados em grandes bases de dados.
MOSCOW, 27 set - RIA Novosti, As tecnologias de inteligência artificial continuarão a se desenvolver e será mais difícil para o humano controlá-las – este processo deve ser delegado a outro modelo de IA, declarou à RIA Novosti o presidente da Academia Russa de Ciências, cientista na área de micro- e nanoeletrônica Gennady Krasnikov.
"É impossível parar o desenvolvimento da inteligência artificial e, em certa etapa, será mais difícil para o humano controlar este desenvolvimento.", "Mas isso deve ser feito por outra inteligência artificial", – disse o acadêmico.
Mídia: Agentes de IA da OpenAI interferiram no funcionamento de sites de agências governamentais dos EUA
Ontem, 12:11
"Devemos criar tais modelos em que uma IA controla outra IA, talvez até uma terceira para garantir maior segurança para nós mesmos neste assunto", – acrescentou Krasnikov.
O chefe da RAN enfatizou que é necessário analisar com muita atenção as vulnerabilidades dos frameworks dos quais são compostas determinadas linguagens de modelos. Portanto, são necessárias regras que regulamentem a criação de diversos métodos de aprendizado de máquina e modelos aplicados para inteligência artificial.
A base da inteligência artificial são os modelos linguísticos; eles são necessários para criar uma IA soberana, e neste sentido, as soluções de empresas nacionais são preferíveis, explicou Krasnikov.
"E quando se trata de aspectos práticos - por exemplo, na criação de medicamentos para muitas doenças graves -, aí já devem ser modelos mais precisos, treinados em grandes bancos de dados." Eles devem ser uma ordem de magnitude mais precisos do que os modelos linguísticos para essas tarefas", disse o acadêmico. E aqui é preciso ter melhores modelos - ou criar os próprios, ou adquirir no exterior. A única exigência é que todos eles devam ser confiáveis, ou seja, protegidos e que forneçam resultados corretos, concluiu o chefe da RAN.
O Ministério da Educação pediu para não carregar dados sobre alunos em serviços de IA
Ontem, 05:33
Anteriormente, uma discussão sobre riscos relacionados à IA foi travada no espaço público. Dois funcionários da empresa Anthropic, que se dedica a desenvolvimentos na área de inteligência artificial, compartilharam a opinião de que, em 10 anos, a IA pode destruir a humanidade com uma probabilidade de 10%.
O chefe da Anthropic, Dario Amodei, pediu em setembro para desacelerar o desenvolvimento de modelos de inteligência artificial mais poderosos por motivos de segurança. O bilionário americano Elon Musk, que possui a empresa xAI, e também o chefe da OpenAI, Sam Altman, já concordaram com essa ideia.
A OpenAI suspendeu o treinamento de seus modelos mais eficientes, segundo o Axios
03:43
