- Relatório sobre a preocupação enviada pela equipe de pesquisa da OpenAI
- A carta foi enviada ao conselho um dia antes de Sam Altman ser demitido
- Especulações sobre o possível avanço da inteligência artificial geral (AGI)
A Reuters publicou informações sobre uma carta de pesquisadores da OpenAI ao conselho, onde expressaram preocupações e advertências sobre o potencial de um novo projeto em IA. Aparentemente funciona nomeadamente sobre uma possível descoberta que pode ameaçar a humanidade. Sam Altman concordou com uma investigação interna sobre a suposta conduta que parece ter desencadeado uma série de demissões nos últimos dias.
Em que momento estamos
Excitante? Apavorante?
Família @timnitGebru, o que acontece numa situação como esta, se for realmente o caso? Em termos de lei e ética.
“O avanço técnico, liderado pelo cientista-chefe da OpenAI, Ilya Sutskever, levantou preocupações entre alguns funcionários de que a empresa… pic.twitter.com/TPYl7Mhlr2
-Senhor. Tshweu (@TshweuMoleme) 23 de novembro de 2023
Alguém pode se perguntar o que tem acontecido na OpenAI ultimamente e como é possível que haja tanto burburinho em torno disso no momento. Alguns acreditam que a notícia do fim de Sam Altman teve relação com as informações que surgiram hoje e pode até ser o gatilho para a demissão repentina. A carta teria sido endereçada ao antigo conselho de administração da empresa e pretendia ser alerta de um possível avanço sinistro.
Que semana para a OpenAI Eles demitiram e recontrataram o CEO Sam Altman, revelaram o inovador Q* e reorganizaram o conselho trazendo de volta Sam Altman. Esta montanha-russa destaca os riscos de depender de uma única pessoa em uma configuração centralizada de IA.
A descoberta no… pic.twitter.com/QPIXoQecKP
– Julius Ser (@CTOofThings) 23 de novembro de 2023
A Inteligência Geral Artificial (AGI) se tornaria esse avanço. Projeto Q*, definido como um sistema autônomo, que podemos imaginar como um robô superavançado, capaz de absolutamente tudo que um humano pode fazer e ainda melhor. Ele demonstrou capacidade de resolver problemas matemáticos complexos, considerados no limite do desenvolvimento. Este facto sugere-nos que a IA poderia ter capacidades de compreensão semelhantes às da inteligência humana.
O projeto secreto e grandes ambições da OpenAI
Este projeto é o resultado de duas equipes de pesquisa conjuntas “Code Gen” e “Math Gen”. Estas equipas exploraram como poderiam otimizar os modelos existentes para melhorar o seu raciocínio e produzir trabalho científico. Altman chefiou a corporação esforços para ser uma das empresas de software de crescimento mais rápidovaleu-se do investimento e dos recursos computacionais da Microsoft para aproximar a AGI pelo menos um pouco mais.
OpenAl alcança secretamente AGI internamente [Whistleblower]
Finalmente, curiosamente, numa reunião de líderes mundiais em São Francisco, Altman deu a entender que a AGI poderia estar ao nosso alcance. “Quatro vezes na história da OpenAI, mais recentemente nas últimas semanas, estive em uma sala onde empurramos o véu da ignorância e as fronteiras da descoberta, e estar nisso é um profissional honra de uma vida”, disse ele, e paradoxalmente, o dia foi liberado para isso.
O que você acha das possíveis ameaças?
Fonte: BusinessToday, Reuters, AndroidAuthority