You should, unfortunately, be worried about Sam Altman

Semana passada eu vi um amigo trocar de emprego depois de jurar, por meses, que não trocaria — tinha um discurso pronto sobre lealdade, sobre construir algo do zero, sobre não ser do tipo que sai correndo atrás de oferta maior. Bastou a oferta chegar com um número alto o suficiente e o discurso evaporou em dois dias. Não achei errado, achei só revelador: a gente sempre descobre o preço dos próprios princípios tarde demais, quando alguém finalmente oferece o valor que os testa de verdade.

Foi nesse estado de espírito que assisti ao vídeo do AI In Context sobre a demissão e o retorno de Sam Altman na OpenAI em novembro de 2023. A empresa tinha desenhado, no papel, exatamente o mecanismo para evitar que um CEO carismático capturasse o controle de uma tecnologia perigosa: um conselho sem fins lucrativos, sem ações, sem bônus, com poder explícito de demitir o executivo-chefe se a missão original — segurança antes de lucro — fosse ameaçada. Quando esse conselho realmente usou o poder que tinha, demitindo Altman por perda de confiança, a estrutura inteira durou cerca de cinco dias antes de ruir sob o peso de quase todo o quadro de funcionários ameaçando se demitir em bloco.

O que me incomodou não foi a reviravolta em si, mas o que ela expõe sobre onde o poder realmente mora dentro de uma organização. A governança formal — estatuto, conselho, missão escrita — só vale enquanto ninguém com peso suficiente decide testá-la. No caso da OpenAI, o teste revelou que a lealdade e a dependência prática das pessoas em relação a um líder específico pesam mais do que qualquer cláusula de supervisão. Ilya Sutskever assinou a demissão preocupado com o risco existencial da tecnologia que ajudou a criar; em poucos dias, parte considerável dessa mesma convicção foi atropelada por centenas de currículos, projetos e salários atados ao retorno de Altman.

É fácil ler isso como uma história sobre Vale do Silício e seguir adiante, mas a mecânica se repete em escala menor em qualquer lugar onde exista uma regra criada para resistir à pressão e uma pessoa carismática o bastante para se tornar maior que a regra. Empresas pequenas têm seus próprios “conselhos sem fins lucrativos” — um código de ética, um RH, um sócio que jurou nunca cortar qualidade pelo prazo — e a maioria deles nunca foi de fato testada, porque a pressão nunca chegou forte o suficiente. A OpenAI teve a má sorte, ou a sorte, de descobrir isso publicamente.

O vídeo termina perguntando se o episódio provou ou enterrou a tese de que uma empresa de IA pode ser controlada por uma governança não comercial; eu acho que a resposta é mais desconfortável do que qualquer uma das duas: provou que a governança só é real quando ninguém precisa dela para nada que realmente importe. No fim, fico pensando menos na OpenAI e mais nas minhas próprias barreiras declaradas — aquelas que digo seguir por princípio, mas que nunca foram empurradas por uma oferta, um medo ou uma perda real.

Que regra você diz seguir por princípio, mas nunca viu sobrevivendo à primeira pressão de verdade?

Assistir: You should, unfortunately, be worried about Sam Altman · AI In Context