Quem é Mira Murati, a nova CEO interina da OpenAI?
Quem é Mira Murati, a nova CEO interina da OpenAI?' Melhorando o título 'Conheça Mira Murati, a nova CEO interina da OpenAI
Até a dramática saída do cofundador e CEO da OpenAI, Sam Altman, na sexta-feira, Mira Murati era a diretora de tecnologia da empresa – mas você também poderia chamá-la de ministra da verdade. Além de liderar as equipes que desenvolvem ferramentas como ChatGPT e Dall-E, é seu trabalho garantir que esses produtos não enganem as pessoas, não mostrem viés ou acabem com a humanidade de uma vez por todas.
Esta entrevista foi realizada em julho de 2023 para a matéria de capa da ENBLE sobre a OpenAI. Ela está sendo publicada hoje depois da saída repentina de Sam Altman para dar um vislumbre do pensamento do novo chefe da poderosa empresa de IA.
Steven Levy: Como você entrou para a OpenAI?
Mira Murati: Minha formação é em engenharia, e trabalhei em aeroespacial, automotivo, RV e RA. Tanto na Tesla [onde acompanhei o desenvolvimento do Model X], quanto em uma empresa de RV [Leap Motion], eu estava aplicando IA no mundo real. Rapidamente acreditei que a IA geral seria a última e mais importante grande tecnologia que desenvolveríamos, e quis estar no coração dela. A OpenAI foi a única organização na época que tinha incentivos para trabalhar nas capacidades da tecnologia de IA e também garantir que isso acontecesse de forma positiva. Quando entrei em 2018, comecei a trabalhar em nossa estratégia de supercomputação e a gerenciar algumas equipes de pesquisa.
Quais momentos se destacam para você como marcos importantes durante seu tempo aqui?
- Elon Musk Pode Ter Acabado de Assinar a Sentença de Morte da X
- Fábricas de suor infantil alimentam a indústria de IA
- X ameaça processo por estudante disciplinado por tweets
Há tantos momentos importantes que é difícil lembrar. Vivemos no futuro e vemos coisas incríveis todos os dias. Mas me lembro do GPT-3 sendo capaz de traduzir. Falo italiano, albanês e inglês. Lembro de criar prompts em pares de inglês e italiano. E de repente, mesmo sem termos treinado para traduzir em italiano, ele conseguia fazer isso muito bem.
Você ingressou na OpenAI quando ela passou de uma organização sem fins lucrativos para uma entidade com fins lucrativos dentro da estrutura. Como você se sentiu em relação a isso?
Não foi algo feito sem pensar. Para realmente entender como melhorar e tornar nossos modelos mais seguros, é preciso implantá-los em grande escala. Isso custa muito dinheiro. Requer um plano de negócios, porque os doadores generosos de organizações sem fins lucrativos não vão doar bilhões como os investidores fariam. Até onde eu sei, não há outra estrutura como essa. O mais importante era proteger a missão da organização sem fins lucrativos.
Isso pode ser complicado, já que você tem uma parceria profunda com uma grande empresa de tecnologia. Você sente que sua missão está alinhada com a da Microsoft?
No sentido de que eles acreditam que esta é nossa missão.
Mas essa não é a missão deles.
Não, essa não é a missão deles. Mas foi importante para o investidor acreditar que essa é nossa missão.
Quando você ingressou na OpenAI em 2018, ela era principalmente um laboratório de pesquisa. Embora ainda façam pesquisa, agora vocês são uma empresa de produtos. Isso mudou a cultura?
Mudou definitivamente a empresa. Sinto que quase todos os anos há algum tipo de mudança de paradigma em que precisamos reconsiderar como estamos fazendo as coisas. É uma espécie de evolução. Agora, o que é mais óbvio para todos é essa necessidade de adaptação contínua na sociedade, ajudando a levar essa tecnologia ao mundo de forma responsável e auxiliando a sociedade a se adaptar a essa mudança. Isso não era necessariamente óbvio há cinco anos, quando estávamos apenas fazendo coisas em nosso laboratório. Mas ao colocar o GPT-3 em uma API, ao trabalhar com clientes e desenvolvedores, conseguimos desenvolver essa compreensão do potencial que a tecnologia tem para mudar as coisas no mundo real, muitas vezes de maneiras diferentes das que prevemos.
Você esteve envolvida no Dall-E. Como ele produz imagens, você teve que considerar coisas diferentes de um modelo de texto, incluindo quem detém os direitos autorais das imagens que o modelo usa. Quais eram seus medos e como você avalia seu sucesso?
Obviamente, fizemos muitos testes internos. Lembro-me de ser uma fonte de alegria, leveza e diversão. As pessoas inventaram todos esses prompts criativos e loucos. Decidimos disponibilizá-lo em laboratórios, como uma forma fácil para as pessoas interagirem com a tecnologia e aprenderem sobre ela. E também para pensar nas implicações políticas e em como o Dall-E pode afetar produtos e mídias sociais ou outras coisas. Também trabalhamos muito com os criativos para obter a opinião deles ao longo do caminho, porque vemos isso internamente como uma ferramenta que realmente aprimora a criatividade, em vez de substituí-la. Inicialmente, havia especulações de que a IA primeiro automatizaria uma série de empregos, e a criatividade era a área em que os humanos tinham o monopólio. Mas vimos que esses modelos de IA têm um potencial real para serem criativos. Quando você vê artistas brincando com o Dall-E, os resultados são realmente magníficos.
Desde que a OpenAI lançou seus produtos, surgiram questões sobre seu impacto imediato em coisas como direitos autorais, plágio e empregos. Ao colocar coisas como o GPT-4 em circulação, é quase como se estivessem forçando o público a lidar com esses problemas. Foi intencional?
Com certeza. Na verdade, é muito importante descobrir como lançá-lo de uma maneira segura e responsável, e ajudar as pessoas a integrá-lo em seus fluxos de trabalho. Isso vai mudar indústrias inteiras; as pessoas têm comparado isso à eletricidade ou à prensa. Portanto, é muito importante começar a realmente integrá-lo em todos os aspectos da sociedade e pensar em questões como leis de direitos autorais, privacidade, governança e regulamentação. Temos que garantir que as pessoas realmente experimentem por si mesmas do que essa tecnologia é capaz, em vez de apenas ler sobre ela em um comunicado de imprensa, especialmente porque o progresso tecnológico continua sendo tão rápido. É inútil resistir a ele. Acho importante abraçá-lo e descobrir como as coisas vão dar certo.
Você está convencido de que essa é a forma ideal de nos mover em direção à AGI?
Ainda não encontrei uma maneira melhor do que implantações iterativas para descobrir como obter essa adaptação e feedback contínuos do mundo real e incorporá-los à tecnologia, tornando-a mais sólida para esses casos de uso. É muito importante fazer isso agora, enquanto os riscos ainda são baixos. À medida que nos aproximamos da AGI, provavelmente ela vai evoluir novamente, e nossa estratégia de implantação mudará à medida que nos aproximamos dela.
