O caso econômico para IA generativa e modelos básicos

Jul 05, 2023

A inteligência artificial tem sido um elemento básico na ciência da computação desde a década de 1950. Ao longo dos anos, também rendeu muito dinheiro para as empresas capazes de implementá-lo de forma eficaz. No entanto, como explicamos num artigo de opinião recente para o Wall Street Journal – que é um bom ponto de partida para o argumento mais detalhado que apresentamos aqui – a maioria desses ganhos foi para grandes fornecedores históricos (como Google ou Meta), em vez de do que para startups. Até muito recentemente – com o advento da IA ​​generativa e tudo o que ela abrange – não vimos empresas que priorizam a IA que ameaçassem seriamente os lucros dos seus pares maiores e estabelecidos através da concorrência direta ou de comportamentos inteiramente novos que tornassem obsoletos os antigos.

Com aplicações generativas de IA e modelos básicos (ou modelos de fronteira), entretanto, as coisas parecem muito diferentes. O desempenho e a adoção incríveis, combinados com um ritmo alucinante de inovação, sugerem que podemos estar nos primeiros dias de um ciclo que transformará as nossas vidas e a nossa economia em níveis nunca vistos desde o microchip e a Internet.

Esta postagem explora a economia da IA ​​tradicional e por que normalmente tem sido difícil alcançar a velocidade de escape para startups que usam a IA como um diferencial central (algo sobre o qual escrevemos no passado). Em seguida, aborda por que as aplicações generativas de IA e as grandes empresas com modelos básicos são muito diferentes e o que isso pode significar para o nosso setor.

Historicamente, o problema da IA ​​não é o facto de não funcionar – há muito que produz resultados alucinantes – mas sim o facto de ter sido resistente à construção de modelos de negócio atraentes e puros em mercados privados. Olhando para os fundamentos, não é difícil perceber por que é que a obtenção de uma excelente economia a partir da IA ​​tem sido difícil para as startups.

Muitos produtos de IA precisam garantir alta precisão mesmo em situações raras, muitas vezes chamadas de “cauda”. E muitas vezes, embora qualquer situação possa ser rara por si só, tende a haver muitas situações raras em conjunto. Isto é importante porque, à medida que os casos se tornam mais raros, o nível de investimento necessário para lidar com eles pode disparar. Estas podem ser economias de escala perversas para as startups racionalizarem.

Por exemplo, pode ser necessário um investimento de US$ 20 milhões para construir um robô que possa colher cerejas com 80% de precisão, mas o investimento necessário pode aumentar para US$ 200 milhões se você precisar de 90% de precisão. Chegar a 95% de precisão pode custar US$ 1 bilhão. Não só é uma tonelada de investimento inicial para obter níveis adequados de precisão sem depender demasiado dos seres humanos (caso contrário, qual é o sentido?), mas também resulta na diminuição dos retornos marginais sobre o capital investido. Além da enorme quantidade de dólares que pode ser necessária para atingir e manter o nível desejado de precisão, o custo crescente do progresso pode servir como um anti-fosso para os líderes – eles gastam dinheiro em P&D enquanto os seguidores rápidos desenvolvem seus aprendizados. e fechar a lacuna por uma fração do custo.

Muitos dos domínios tradicionais de problemas de IA não são particularmente tolerantes com respostas erradas. Por exemplo, os bots de sucesso do cliente nunca devem oferecer orientação inadequada, o reconhecimento óptico de caracteres (OCR) para depósitos de cheques nunca deve interpretar mal as contas bancárias e (é claro) os veículos autônomos não devem fazer uma série de coisas ilegais ou perigosas. Embora a IA tenha provado ser mais precisa do que os humanos em algumas tarefas bem definidas, os humanos geralmente têm melhor desempenho em problemas de cauda longa onde o contexto é importante. Assim, as soluções baseadas em IA muitas vezes ainda utilizam humanos no circuito para garantir a precisão, uma situação que pode ser difícil de escalar e muitas vezes se torna um custo oneroso que pesa nas margens brutas.

O corpo e o cérebro humanos constituem uma máquina analógica que evoluiu ao longo de centenas de milhões de anos para navegar no mundo físico. Consome cerca de 150 watts de energia, funciona com uma tigela de mingau, é muito bom para resolver problemas na cauda e o salário médio global é de cerca de US$ 5 por hora. Para algumas tarefas em algumas partes do mundo, o salário médio é inferior a um dólar por dia.