Uma nova startup de Seattle liderada por engenheiros veteranos está construindo a tecnologia para enfrentar um dos maiores fatores de custo e complexidade na implantação de grandes modelos de linguagem.
Fundada há apenas alguns meses, a Elastixai está desenvolvendo uma plataforma de inferência de IA projetada para otimizar como os modelos de linguagem são grandes.
A empresa acabou de arrecadar US $ 16 milhões de uma rodada maior liderada pela empresa de capital de risco Fuse, com sede em Bellevue, aprendeu o Geekwire.
- Elastixai é liderado pelo CEO Mohammad Rastegari, co-fundador e CTO na XNOR, uma startup de Seattle especializada em ferramentas de IA baseada em Edge e foi adquirida pela Apple por cerca de US $ 200 milhões em 2020.
- O co-fundador da Elastixai, Saman Naderiparizi, CTO, liderou a engenharia de hardware da XNOR e foi gerente sênior de engenharia da Apple.
- O terceiro co-fundador da empresa, Mahyar Najibi, também estava na Apple e anteriormente passou três anos em Waymo.
À medida que a IA exige disparos, inferência – Como modelos de idiomas grandes treinados “pensam” e produzem respostas – é uma das áreas mais quentes da infraestrutura de IA.
O Elastixai tem como objetivo melhorar o desempenho e a eficiência desses modelos – estejam em execução em dispositivos de borda ou implantações maiores em nuvem, em uma variedade de configurações de hardware.
“Vimos uma lacuna quando se trata de entregar a inferência de IA em uma escala e a baixo custo”, disse Rastegari ao Geekwire. Ele descreveu a plataforma como “principalmente orientada para software”.
O Elastixai permanece em furtividade, mas os fundadores dizem que sua plataforma pode atender a uma variedade de clientes – de hiperescaladores a empresas que integram a IA nas operações diárias.
Parte do molho secreto da empresa está fornecendo flexibilidade.
“Queremos permitir que os clientes possam configurar seu sistema para um nível muito detalhado, para que eles tenham uma infraestrutura de inferência que seja criada para seu caso de uso muito específico”, disse Naderiparizi.
Existem várias empresas desenvolvendo produtos relacionados à inferênciade jogadores maiores como Nvidia e CoreWeave a startups menores, incluindo fogos de artifício.
Naderiparizi disse que algumas dessas empresas podem potencialmente ser clientes da Elastixai.
Octoai, uma startup de Seattle que também ajudou as empresas a administrar os modelos de IA com mais eficiência, foi adquirida pela Nvidia no ano passado.
Rastegari passou quatro anos na Apple após o acordo XNOR em 2020. Ele ingressou na Meta no ano passado como um cientista distinto. Ele também passou cinco anos no Instituto Allen para a IA (AI2) como cientista de pesquisa.
Rastegari e Naderiparizi são professores assistentes afiliados da Universidade de Washington.
Outros investidores apoiando Elastixai incluem Catapult, Tyche, Liquid 2 Ventures e DNX Ventures.
“Empurrado com os fundadores técnicos de elite da Elastix para resolver os problemas mais difíceis de escalar computação e infraestrutura no mercado de inferência de IA em rápido crescimento”, disse Cameron Borumand, parceiro geral da FuSE, por e-mail.
Mais plano de fundo:
- Rastegari co-fundou o XNOR com Ali Farhadi, que passou três anos na Apple antes de se tornar CEO da AI2, com sede em Seattle, criada pelo falecido co-fundador da Microsoft, Paul Allen, para aumentar a pesquisa da IA.
- A Apple, que também adquiriu as startups de Seattle Turi e Union Bay Networks, possui uma crescente pegada na área de Seattle e, no início deste ano, assinou um grande contrato de locação em South Lake Union.