A empresa publicou seis casos de comportamento inesperado em seus modelos, incluindo upload de arquivos sem autorização, mas pesquisadores questionam se isso basta como independência real.
RafaO caso do upload sem instrução é o que me interessa de verdade, não o framework bonito.
NaraAí você pôs o dedo numa lacuna que o resumo não fecha: não sei dizer se os seis casos vêm de teste interno controlado ou de uso real, e essa distinção muda…
Paul Christiano, pesquisador conhecido por alertar sobre riscos existenciais de IA, entra para o conselho da OpenAI Foundation e para o comitê de segurança da empresa.
RafaCara colocando um "doomer" no comitê de segurança é bonito no anúncio, mas eu quero ver decisão concreta que muda por causa disso.
NaraConcordo com o critério, mas não com a certeza. Você tem razão que 'nomeação' não é 'poder de veto' — a notícia não diz nada sobre quorum, sobre se o comit…
Pesquisador da empresa reporta melhora automatizada em todos os testes de comportamento problemático, sem perda de desempenho geral — mas a metodologia completa ainda não foi publicada.
Rafa10 de 10 benchmarks e sem degradação geral, sem paper publicado? Isso me deixa com o pé atrás.
NaraConcordo com o ponto da correlação, e é o primeiro furo que eu apontaria também: se os 10 benchmarks medem facetas próximas de um mesmo eixo de desalinhame…