InfoPrompt · Edição 003

Por que a OpenAI está pedindo regras para a própria IA

A empresa quer limites obrigatórios para os sistemas mais poderosos. E isso já importa para quem usa agentes no trabalho.

· 6 min de leitura

Celular exibindo o logotipo da OpenAI sobre um fundo preto e branco com o símbolo da empresa.
Mashable/Reprodução.

Esta edição contém links de afiliado; podemos receber comissão. Saiba mais.

Bom dia.

Tem uma ironia difícil de ignorar na notícia de hoje. A empresa que ajuda a acelerar a inteligência artificial agora diz que, em alguns casos, é preciso saber a hora de pisar no freio.

E faz sentido. Quando uma IA apenas responde a uma pergunta, o erro costuma terminar na tela. Quando ela pode abrir programas, mexer em dados e agir sozinha, o mesmo erro pode ir muito mais longe.

HOJE NO INFOPROMPT

  • A OpenAI pede regras obrigatórias para as IAs mais poderosas.
  • Pesquisadores da empresa já trabalham acompanhados de vários agentes.
  • A Make entra como alternativa para começar com automações mais controladas.
  • Três ferramentas que estão ganhando atenção no mercado.

A OpenAI quer que segurança deixe de ser uma escolha

A OpenAI defendeu nesta semana que os Estados Unidos criem regras nacionais obrigatórias para os sistemas de IA mais poderosos. A proposta inclui testes de segurança, avaliações independentes e comunicação de incidentes graves.

Não é uma regra pensada para qualquer pessoa que usa o ChatGPT para escrever um e-mail. A empresa fala de um grupo pequeno de modelos muito mais capazes, que conseguem usar ferramentas, navegar na internet e executar tarefas longas com pouca ajuda humana.

O motivo dessa preocupação ficou mais claro com o GPT-6 Astra. A própria OpenAI classificou o modelo como um sistema com capacidade crítica em segurança cibernética. Isso significa que, com as ferramentas e os acessos certos, ele consegue encontrar falhas e trabalhar em ataques muito mais complexos do que os modelos anteriores. Por causa disso, seu uso passou a exigir controles adicionais.

Isso não quer dizer que uma IA comum vá invadir um computador amanhã. A questão é mais simples: quanto mais autonomia damos ao sistema, maior precisa ser o controle ao redor dele.

Para quem usa IA no trabalho, vale fazer três perguntas antes de conectar um agente ao e-mail, navegador ou sistema da empresa: o que ele pode fazer sozinho? Ele pede confirmação antes de agir? É possível conferir tudo o que fez e cortar o acesso depois?

Leia a posição oficial da OpenAI

📡 RADAR DE IA

O que mais merece atenção hoje

Arte oficial sobre agentes na pesquisa da OpenAI

Imagem: OpenAI/Divulgação.

Pesquisadores já trabalham ao lado de vários agentes

A OpenAI divulgou que sua equipe de pesquisa usa, no total, 3,1 dias de trabalho de agentes para cada dia de trabalho humano. Isso não representa três funcionários substituídos. É uma forma de mostrar o volume de tarefas executadas por agentes, como escrever código, testar ideias e procurar erros. As pessoas continuam escolhendo o que investigar e decidindo se o resultado merece avançar. Veja os dados e a metodologia.

Segurança ganhou mais espaço dentro da empresa

Paul Christiano, pesquisador conhecido por estudar formas de manter sistemas de IA sob controle, entrou no comitê de segurança da Fundação OpenAI. A mudança não altera o ChatGPT agora, mas coloca alguém com experiência no tema perto das decisões que envolvem risco e responsabilidade. Leia o anúncio.

A disputa entre Estados Unidos e China chegou aos modelos

Autoridades americanas acusaram empresas chinesas de tentar copiar capacidades de modelos dos Estados Unidos por meio de uma técnica chamada destilação. Em linguagem simples, é usar as respostas de um modelo muito bom para ensinar outro. A China negou as acusações. A disputa pode influenciar acesso, preço e regras de uso das ferramentas no futuro. Entenda o caso.

🧩 COMO APLICAR NO TRABALHO

Automatize uma tarefa simples sem perder o controle

Imagem oficial da plataforma Make

Imagem: Make/Divulgação.

O que vamos aprender

A notícia de hoje mostra que uma inteligência artificial pode causar problemas quando recebe liberdade para agir sozinha. No trabalho, a lição é simples: não comece entregando decisões importantes para a tecnologia.

Vamos aprender a automatizar uma tarefa pequena e repetitiva. Automatizar significa fazer uma ferramenta repetir por você uma sequência de passos que acontece sempre do mesmo jeito. Ela pode, por exemplo, receber um arquivo, guardá-lo na pasta certa e avisar que o trabalho foi concluído. A ferramenta executa a parte mecânica, mas a conferência e as decisões continuam com uma pessoa.

Como aplicar

  1. Escolha uma tarefa que você repete com frequência, como baixar um anexo, copiar uma informação ou enviar um aviso.
  2. Escreva os passos exatamente na ordem em que você os faz hoje.
  3. Abra a Make e crie uma nova automação. Primeiro, escolha o aplicativo onde a tarefa começa. Por exemplo, selecione o Gmail e defina que a automação deve começar quando chegar um e-mail com anexo.
  4. Adicione o que deve acontecer em seguida. Para guardar o arquivo, conecte o Google Drive e escolha a pasta onde ele será salvo. Se quiser avisar alguém, acrescente mais uma etapa para enviar uma mensagem por e-mail ou Slack.
  5. Envie um arquivo fictício e mande a Make executar o teste. Confira se o arquivo foi salvo na pasta certa e se o aviso chegou. Somente depois disso, ative a automação.

No primeiro teste, pare por aí. Não permita que a automação faça pagamentos, responda clientes ou tome decisões importantes.

Exemplo

Toda sexta-feira, Ana recebe por e-mail uma planilha com os resultados da semana. Ela baixa o arquivo, salva em uma pasta do Google Drive e avisa um colega que a planilha chegou.

Com uma automação, o arquivo pode ser salvo na pasta correta e o aviso pode ser enviado automaticamente. Ana continua abrindo a planilha e conferindo os números. Ela deixa de gastar tempo com dois passos repetitivos, mas não entrega a análise nem a decisão para a ferramenta.

Ferramenta indicada: Make

A Make é uma ferramenta que conecta aplicativos que você já usa, como Gmail, Google Drive, Planilhas Google, Slack e outros. Ela serve para criar regras simples, como: “quando um e-mail com determinado assunto chegar, salve o anexo nesta pasta e envie um aviso”.

Você monta essa sequência de forma visual, escolhendo o que deve iniciar a tarefa e o que deve acontecer depois. Não é preciso saber programar. Para o exemplo acima, a Make faria o trabalho repetitivo de baixar, salvar e avisar. Ana continuaria responsável por conferir a planilha e decidir o que fazer com os dados.

Conhecer a Make e testar uma automação

*Link afiliado.*

Veja também: Make ou n8n, qual faz mais sentido para começar?

🔎 RADAR DE FERRAMENTAS

Três novidades para acompanhar

Página oficial do Grok Bot Marketplace

Imagem: xAI/Reprodução.

Grok Bot Marketplace: a xAI abriu uma vitrine de bots prontos para áreas como vendas, marketing, engenharia e operações. A página mostrava 69 bots no momento da consulta. Antes de adicionar um deles, confira quais dados e ações serão liberados. Conheça o marketplace.

Gemini 3.8 Flash: o novo modelo rápido do Google foi desenvolvido para programação, uso de ferramentas e tarefas com várias etapas. Ele está disponível em produtos do Google e na API, mas pode gastar mais tokens quando usa raciocínio mais intenso. Veja o anúncio do Google.

MiniCPM5-2B: é um modelo aberto e compacto, pensado para rodar localmente e em aparelhos com menos recursos. O público principal é técnico, mas a ideia merece atenção: agentes menores podem executar algumas tarefas sem depender sempre de um serviço gigante na nuvem. Veja o modelo no Hugging Face.

💭 PARA PENSAR

“A melhor automação não tira você da decisão. Ela tira da sua frente o trabalho repetitivo.”

Frase editorial do InfoPrompt.

Até amanhã,

InfoPrompt 🤖

As notícias e ferramentas de IA para acompanhar, entender e aplicar no trabalho.