Em entrevista, COO da OpenAI recomenda calma com a I.A.

Recentemente, Brad Lightcap, COO da OpenAI, deu uma ótima entrevista ao CNBC, (traduzida para o português, abaixo) oferecendo uma perspectiva realista sobre a inteligência artificial (IA) no mundo dos negócios. Lightcap destacou que muitos líderes empresariais estão superestimando a IA, esperando que ela resolva todos os seus problemas. No entanto, ele ressalta que “quase nunca existe uma resposta mágica”.

Benefícios e Desafios da IA

Um ponto importante mencionado por Lightcap é a tendência dos executivos de ignorar como os indivíduos em suas empresas estão se beneficiando de ferramentas como o ChatGPT. Ele também enfatiza que a tecnologia de IA ainda está em seus estágios iniciais, assim como suas aplicações, sugerindo que levará tempo para a IA melhorar e para as pessoas descobrirem as melhores maneiras de integrar a IA em softwares.

A Realidade da IA nas Empresas

• Executivos estão animados com a IA, mas…
• A maioria das empresas ainda está no início da adoção.
• A maioria dos americanos ainda não usa IA no dia a dia.

Dicas para 2024

Com base nas conversas com líderes empresariais, aqui estão algumas dicas para quem acredita no futuro da IA, mas não sabe por onde começar:

1. Comece pelos Problemas: Mapeie onde sua empresa está gastando tempo e dinheiro e veja se a IA pode ajudar. Não adote a IA apenas por adotar.
2. Modele o Comportamento: As equipes têm melhor desempenho no uso de novas ferramentas quando há apoio da liderança. Mostre seu suporte.
3. Faça o Que Puder, Aguarde o Resto: Com a rápida evolução da IA, “não fazer nada por enquanto” é uma opção válida. Comece com o que pode fazer hoje (acelerando a produtividade individual dos funcionários) e mantenha-se atualizado sobre o resto.

---

Entrevista com Brad Lightcap, COO da OpenAI

Estamos chegando ao aniversário do ChatGPT. Nesta época do ano passado, semanas antes de sua estreia, o DALL-E estava em pré-estudo de pesquisa, o Stable Diffusion estava recebendo muita atenção e seu chatbot ainda não existia. Como era a equipe naquela época?

Acho que naquele momento estávamos pensando em nós mesmos como uma empresa que construía ferramentas para desenvolvedores, então foi um tipo de coisa nova para pensarmos: ‘OK, isso é algo que a média pessoa poderia pegar e usar.’ 

Tivemos um gostinho disso com o DALL-E – o lançamos na primavera e basicamente deixamos as pessoas brincarem com ele e vimos muita fanfarra e entusiasmo ali. Mas sempre pensamos – porque o DALL-E era um meio muito visual – que seria o ponto alto de qual seria o nível de interesse do consumidor por essas ferramentas. Então, acho que quando estávamos olhando para o ChatGPT, estávamos usando o DALL-E como uma espécie de referência para o que seria o sucesso, em termos de quantas pessoas usariam isso, quem estaria interessado nele, isso seria ser algo com que as pessoas brincaram um pouco e decidiram que isso não é realmente uma ferramenta e é mais um brinquedo.

Lembro-me de fazermos apostas sobre o tamanho do ChatGPT. Acho que fiz uma das apostas mais agressivas, que era um milhão de usuários simultâneos em qualquer ponto no ápice de nosso uso, e estávamos tentando planejar contra isso, e é claro que eu estava tentando executar todos os modelos contra isso , como pessoa financeira. Então era aí que estávamos e estávamos muito errados.

O que você previu em relação à oportunidade de negócio e como a implementação e a adoção diferiram de suas expectativas? 

Na época, não havia como saber todas as coisas para as quais ele poderia ser útil. E eu acho que esse é, de certa forma, o paradoxo desta tecnologia – ela é tão amplamente útil, e meio que se infiltra em todas as fendas do mundo e em todas as fendas da sua vida como uma ferramenta em lugares que você não sabia que precisava. uma ferramenta.

Então você faz a análise de negócios com antecedência e tenta pensar: “OK, bem, para que as pessoas usariam isso? O que impulsionaria o consumo sustentado disso?” E você tenta atribuir utilidade a ele. Você tenta pensar nisso como: “As pessoas podem usá-lo para escrita criativa, podem usá-lo para isto ou aquilo”. E de certa forma, havia tantas coisas para as quais agora, em retrospecto, sabemos que as pessoas o usam, mas na época, nunca poderíamos conceber – para justificar por que isso seria uma coisa tão grande.

Talvez haja uma lição interessante aí, que é que a análise de negócios nem sempre conta a história, mas ser capaz de fazer uma aposta e realmente dar uma pista sobre onde algo terá utilidade ampla, valor amplo e onde isso vai repercutir nas pessoas como algo novo – às vezes isso tem que superar a análise de negócios.

Em agosto, 80% das empresas Fortune 500 adotaram o ChatGPT. Agora, em novembro, você está em 92%. Quanto aos 8% restantes de empresas que ainda não adotaram a ferramenta, você notou alguma tendência? 

Meu palpite é que provavelmente se trata de indústria pesada em alguns sentidos. … Grandes indústrias de capital intensivo, como o petróleo e o gás, ou indústrias com muita maquinaria pesada, onde o trabalho é mais sobre a produção de um bem e um pouco menos sobre ser uma empresa de informação ou de serviços.

Aos seus olhos, qual é o aspecto mais exagerado e subestimado – especificamente – da IA ​​hoje? 

Acho que o aspecto exagerado é que, de uma só vez, pode proporcionar mudanças substanciais nos negócios. Conversamos com muitas empresas que chegam e elas querem deixar conosco o que desejam fazer há muito tempo – “Queremos que o crescimento da receita volte a 15% ano após ano”, ou “Queremos cortar X milhões de dólares em custos desta linha de custos.” E quase nunca há uma resposta mágica – nunca há nada que você possa fazer com IA que resolva esse problema por completo. E eu acho que isso é apenas uma prova de que o mundo é realmente grande e confuso, e que esses sistemas ainda estão evoluindo, eles ainda estão na infância. 

O que vemos, e acho que onde eles são subestimados, é o nível de capacitação e capacitação individual que esses sistemas criam para seus usuários finais. Essa história não é contada, e o que ouvimos de nossos usuários ou clientes é sobre pessoas que agora têm superpoderes por causa do que as ferramentas lhes permitem fazer, que essas pessoas não podiam fazer anteriormente. 

Vamos falar sobre o negócio da IA ​​generativa. Os críticos dizem que existem muitos aplicativos de consumo, mas existe risco de saturação? O que a tecnologia realmente significa para os negócios?

Estamos neste período muito inicial e penso que é muito importante mantermos a capacidade do mundo de sustentar uma taxa muito elevada de experimentação e uma taxa muito elevada de tentativa e erro. Se você observar as tendências históricas das mudanças de fase anteriores na tecnologia, verá que sempre há uma fase de experimentação realmente importante. É muito difícil acertar a tecnologia desde o dia zero. Eventualmente chegaremos lá – o estado final da tecnologia, eventualmente convergiremos para esse ponto – mas só depois de realmente tentarmos muitas coisas e vermos o que funciona e depois vermos o que não funciona, e para as pessoas construírem em cima do coisas que funcionam, para criar as próximas melhores coisas. 

Minha opinião picante sobre isso é que acho que as coisas mais importantes que são construídas com base nessa tecnologia são, na verdade, coisas que ainda não foram criadas. Porque são necessários alguns ciclos de construção com as ferramentas para realmente entender do que elas são capazes e, então, como combinar as ferramentas com outros aspectos da tecnologia para criar algo que seja realmente maior do que a soma de suas partes. E isso é de se esperar, acho que é muito saudável. 

Anos atrás, as pessoas ficaram surpresas com o nível de uso da IA ​​no transporte rodoviário – ela era vista por alguns como uma indústria muito tradicional, e agora estamos no ponto em que a IA faz parte de praticamente todos os setores. No que diz respeito às tendências de adoção que você tem visto nos últimos anos, existe uma linha direta como essa – uma indústria que usa IA de uma maneira nova ou diferente que o deixa especialmente surpreso?

Definitivamente, há uma grande atração nas indústrias técnicas. Acho que uma coisa que vimos é que ele é um ótimo assistente técnico – seja você engenheiro de software, engenheiro mecânico, químico ou biólogo, há um vasto conjunto de conhecimentos do outro lado de sua disciplina que seu domínio de meio que dita sua eficácia. 

Acho que as pessoas passam a carreira apenas tentando dominar essa disciplina, tentando absorver o máximo de conhecimento possível sobre o domínio. E especialmente em alguns domínios, seja na biologia, na química ou na IA, a literatura nesta área está em constante evolução e expansão – há constantemente novas coisas a serem descobertas, novos estudos a serem feitos. Então não sei se é a coisa mais surpreendente em si, mas uma das coisas mais legais que vemos é o ChatGPT agindo quase como um ajudante nesse aspecto, quase como um assistente de pesquisa. … Sentimos a atração dessas indústrias de uma forma que, sentado onde estava em novembro de 2022, eu não teria esperado.

Já estamos há alguns meses no ChatGPT Enterprise. Lembro que você lançou depois de menos de um ano de desenvolvimento, com mais de 20 empresas testadores beta como Block e Canva. Como, especificamente, o uso cresceu? Quem são alguns de seus maiores clientes desde o lançamento e quanto isso representa um gerador de receita para o OpenAI?

O entusiasmo foi avassalador. Ainda somos uma equipe pequena, então não oferecemos o autoatendimento do produto a partir de hoje – o faremos em breve – mas tentamos passar pelo maior número possível de interessados. …

Grande parte do foco dos últimos dois meses foi realmente garantir que os primeiros clientes que implementamos e integramos vissem valor no produto. … Ainda estamos trabalhando em listas de espera de muitos, muitos, muitos milhares, e nossa esperança é chegar a todos, e essa será uma meta para 2024.

Agora que temos o ChatGPT Enterprise, qual é o maior gerador de receita atual para OpenAI? Como você acha que isso vai evoluir?

Quase nunca adotamos uma abordagem centrada na receita para o que construímos e como lançamos as coisas. Quase sempre adotamos uma abordagem centrada no uso, ou seja, consideramos que as coisas que construímos precisam ser qualificadas em uma de duas áreas: elas precisam ser ferramentas realmente úteis para os desenvolvedores saírem e construírem coisas ou precisarem sejam abstrações realmente úteis para os usuários encontrarem mais valor no produto. Então foi basicamente assim que olhamos para o lançamento. 

Na verdade, ele mapeia perfeitamente se você olhar para GPTs, por exemplo – é algo que marca a caixa, esperançosamente, na segunda parte: “Esta é uma maneira de abstrair o poder da inteligência no ChatGPT e apontá-la para algo isso é muito específico, e dar-lhe o contexto certo, as ferramentas certas, as conexões certas, para poder ficar realmente bom na resolução de uma coisa específica?” Isso pode ser algo útil no seu trabalho, ou talvez algo útil na sua vida, ou pode ser apenas uma coisa divertida – pode ser apenas que você crie um GPT engraçado e seja algo legal de se ter. 

A multimodalidade do ChatGPT – oferecendo geração de imagens e outras ferramentas dentro do mesmo serviço – é uma grande prioridade para a empresa que você descreveu no Dev Day. Conte-me por que isso é tão importante.

O mundo é multimodal. Se pensarmos na forma como nós, como humanos, processamos o mundo e nos envolvemos com o mundo, vemos coisas, ouvimos coisas, dizemos coisas – o mundo é muito maior que um texto. Então, para nós, sempre pareceu incompleto que texto e código fossem as modalidades únicas, as interfaces únicas que poderíamos ter para avaliar o quão poderosos esses modelos são e o que eles podem fazer. 

Então você começa a adicionar recursos de visão. O fato de um computador poder ver algo que está acontecendo no mundo, e descrevê-lo, interagir com isso e raciocinar sobre isso, é provavelmente a coisa mais surpreendente que eu pessoalmente vi na OpenAI nos meus cinco anos aqui. Eu ainda não consigo entender isso e as implicações disso. Mas você pode começar a ver, se apertar os olhos, como coisas que antes não eram possíveis agora começam a se tornar possíveis. 

Você pensa em coisas tão simples como ajudar pessoas com deficiência visual a entender melhor o mundo ao seu redor com baixa latência e alta qualidade. Você pensa em maneiras pelas quais as empresas agora podem entender melhor seus equipamentos, por exemplo, e podem criar experiências para os consumidores que podem desmistificar como o que está à sua frente funciona apenas apontando uma câmera para ele. Você pensa em ser capaz de ajudar as pessoas a entender e analisar melhor as coisas em termos educacionais – muitas pessoas são realmente aprendizes visuais – e na capacidade de ver algo e ser capaz de interagir com um gráfico de uma forma que seja mais adequada para suas necessidades. estilo de aprendizagem, essa é uma capacidade totalmente diferente que desbloqueamos. 

O que é entusiasmante para mim é que agora nos dá uma forma de utilizar a tecnologia que se alinha melhor com a forma como os humanos interagem com o mundo – e, em última análise, torna a tecnologia mais humana.

Sabemos que o modelo de linguagem grande GPT-4 da OpenAI é provavelmente mais confiável do que o GPT-3.5, mas também mais vulnerável a possíveis jailbreaks ou preconceitos. Você pode me explicar como o novo modelo Turbo anunciado no Dev Day difere, se é que difere, e seus planos para resolvê-lo?

Acho que provavelmente lançaremos uma placa modelo Turbo [uma ferramenta de transparência para modelos de IA]. Então esse é provavelmente o melhor lugar para fazer referência a alguns benchmarkings técnicos.

Qual é a sua maior esperança para o próximo ano? O que você acha que as versões futuras do GPT serão capazes de realizar que as versões atuais não conseguem?

Tendo a pensar na curva de progresso aqui como um movimento ao longo da qualidade da capacidade de raciocínio. Se você pensar sobre o que os humanos fundamentalmente fazem bem, é que podemos pegar muitos conceitos diferentes e combiná-los, específicos para o que queremos fazer ou algo que nos pedem para fazer, e criar um resultado que é específico para essa solicitação de forma criativa. Fazemos isso no trabalho todos os dias, fazemos isso em atividades artísticas todos os dias, e é isso que sustenta a maneira como transformamos o mundo em mundo. 

Essa é a direção que eu acho que gostaríamos que a tecnologia seguisse – que sua capacidade de raciocínio fosse drasticamente aprimorada; pode assumir tarefas cada vez mais complexas e descobrir como decompor essas tarefas nas peças de que necessita, para poder concluí-las com um elevado nível de proficiência; e, adjacente a tudo isso, para fazê-lo de forma realmente segura, a ênfase que colocamos, do ponto de vista da pesquisa, em acertar os aspectos de segurança da tecnologia. E à medida que os sistemas se tornam mais capazes, precisamos de manter a barra de segurança a mover-se em paralelo, porque estes sistemas tornar-se-ão cada vez mais autónomos ao longo do tempo. E isso não funciona, se você não conseguir acertar também o aspecto da segurança.

No ano passado, qual dia realmente se destacou para você na empresa? 

O dia em que lançamos o GPT-4 foi muito especial. As pessoas, eu acho, não percebem há quanto tempo estávamos com o GPT-4 antes de lançá-lo. Portanto, houve um nível interno de entusiasmo sobre isso e um sentimento interno de saber que isso seria uma mudança real naquilo que esses modelos são capazes e no que as pessoas consideram um modelo de linguagem realmente de alta qualidade. É o tipo de coisa que você deseja compartilhar com o mundo assim que a tiver. E acho que nós, como equipe, obtemos muita energia com a reação do mundo a essas coisas e com o entusiasmo que vemos em nossos clientes, nossos desenvolvedores, nossos usuários, quando eles se envolvem com isso. Havia aquela excitação reprimida que se acumulou ao longo dos sete ou oito meses anteriores, sabendo que aquele momento estava chegando. …

Não fizemos um grande evento de lançamento como fizemos no Dev Day. Foi um daqueles lançamentos em que você aperta o botão uma manhã e de repente ele não existia e agora existe. Eu quase gosto mais disso – os maiores momentos de lançamento são divertidos, mas pude passar o dia com a equipe aqui em São Francisco, e… houve um momento logo após o lançamento, acho que estávamos no nosso espaço total em nosso café, e todos apenas se entreolharam, e havia uma espécie de mistura de excitação, alívio e exaustão, mas todos estavam sorrindo. E isso é uma coisa muito especial… você não tem muitos momentos assim.

O que você fez pessoalmente quando chegou em casa para comemorar? 

Acho que trabalhei até tarde da noite.

Nos menos de 10 anos da OpenAI, vimos ela passar de uma organização sem fins lucrativos a uma empresa de “pesquisa e implantação”. As pessoas perguntaram o que isso significa e como é a sua estrutura, bem como quanto a Microsoft possui. Você pode fornecer alguma clareza sobre essa jornada? 

Em alto nível, sempre soubemos que queríamos ter uma estrutura que, em sua essência, mantivesse o OpenAI original – a organização sem fins lucrativos OpenAI. Quando estruturamos a empresa, a questão era como fazer isso. E esse foi basicamente o trabalho que fiz quando entrei na OpenAI: descobrir: ‘Existe uma maneira de realmente colocar a missão da OpenAI – e sua organização sem fins lucrativos como a personificação dessa missão – no centro de qual seria a nossa nova estrutura?’ 

Acho que essa é a primeira coisa a entender sobre a OpenAI: não é uma empresa normal nesse sentido. É realmente uma empresa que foi projetada para envolver a organização sem fins lucrativos original de forma literal, estrutural, mas também espiritualmente, para ser uma extensão da missão da organização sem fins lucrativos. Seu dever, principalmente, é cumprir a missão da organização sem fins lucrativos, que é construir inteligência artificial geral que seja segura e amplamente benéfica para a humanidade. Então, talvez pareça loucura, e certamente teria havido formas estruturais e técnicas mais fáceis de construir empresas que teriam contas legais cada vez menores, mas foi muito importante para nós acertarmos. Então não sei se conseguimos – o tempo dirá. Uma coisa boa é que a estrutura é realmente adaptável. E assim, à medida que aprendemos mais ao longo do tempo e temos que nos adaptar ao mundo, podemos ter certeza de que a estrutura está preparada para o sucesso, mas acho que a parte principal disso é que queremos manter a missão principal da OpenAI como a razão de ser. etre para a empresa. 

E a propriedade da Microsoft? 

Não vou comentar as especificidades de nenhum dos aspectos estruturais, mas é uma estrutura desenhada para fazer parceria com o mundo, e a Microsoft é uma grande parceira. Mas pensamos muito sobre como tornar esta estrutura algo que seja extensível ao mundo e que tenha um envolvimento com o mundo que possa se adequar à missão da organização sem fins lucrativos. Então, acho que isso também foi, em parte, o que sustentou o modelo de limite de lucro.

Você trabalha com Sam Altman desde a fundação da OpenAI. Quais são as principais diferenças entre vocês no trabalho? Que pontos fortes e fracos vocês preenchem um para o outro? 

É divertido trabalhar com Sam – ele se move incrivelmente rápido. Acho que ele e eu temos isso em comum: gostamos de manter alta velocidade em todas as coisas. 

Acho que onde nos equilibramos é que Sam é definitivamente orientado para o futuro – gosto de pensar que ele está tentando viver anos no futuro, e acho que deveria viver anos no futuro, e ele é muito bom nisso. Meu trabalho é garantir que a forma como construímos a empresa, a forma como construímos nossas operações, a forma como construímos nosso modelo de engajamento com nossos clientes e parceiros, reflita não apenas onde pensamos que o mundo está indo nesses cinco mais de um ano, mas também realiza as coisas que queremos realizar hoje. 

O desafio que temos é que a tecnologia está mudando rapidamente. Portanto, valorizamos muito a capacidade de tentar educar o mundo sobre como usar a tecnologia, o tipo de trabalho que fazemos, desde a segurança até as capacidades, como pensamos sobre os produtos e a face mutável da nossos produtos. E há uma orquestração que precisa ser feita muito bem, para fazer isso direito em alta velocidade, quando o terreno abaixo de você está mudando rapidamente. Então é aí que eu acho que provavelmente meu valor agregado está, esperançosamente, em focar em acertar – construir uma grande equipe que possa nos ajudar a acertar. Se você conseguir acertar e colocar um pé na frente do outro, acho que acabará no caminho certo de cinco anos.

Vimos muitas mudanças na OpenAI em cerca de uma semana. Agora que Sam está de volta à empresa e a nova estrutura do conselho foi divulgada, o que você acha de como isso impactará o dia a dia? E você prevê que mudanças adicionais na estrutura acontecerão nos próximos meses?

Não espero nenhuma mudança no dia a dia – nossa missão é a mesma e nosso foco continua sendo fazer pesquisas excelentes, construir e atender clientes, usuários e parceiros. Compartilhamos que agora temos um conselho inicial e esperamos adicionar mais membros ao conselho 

Qual é o clima geral na empresa neste momento? 

As últimas semanas uniram a empresa de uma forma difícil de descrever. Sinto uma enorme gratidão à nossa equipe e um profundo apreço pelos nossos clientes e parceiros, que nos apoiaram incrivelmente durante todo o processo. Esse apoio realmente nos dá energia para continuar a trabalhar ainda mais arduamente em direção à nossa missão. Pessoalmente, sinto-me muito focado.

[ Lightcap e OpenAI se recusaram a comentar mais detalhes sobre as circunstâncias em torno da demissão e renomeação de Altman. ]