Redactie - 07 maart 2024

Snowflake werkt samen met Mistral AI rond LLM toepassingen

Snowflake, bekend van de datacloud-oplossingen, en Mistral AI, een Franse leverancier van AI-oplossingen, hebben een wereldwijde samenwerking aangekondigd om de Language Models van Mistral AI rechtstreeks beschikbaar te maken voor Snowflake-klanten in de Data Cloud.

Snowflake werkt samen met Mistral AI rond LLM toepassingen image

Door middel van deze meerjarige samenwerking leveren Mistral AI en Snowflake de tools die enterprises nodig hebben om naadloos gebruik te maken van de kracht van Large Language models (LLM's), met behoud van veiligheid, privacy en governance over hun meest waardevolle bezit - hun data. Daarnaast omvat de samenwerking ook een investering in Mistral's Series A van Snowflake Ventures.

Door de nieuwe Mistral AI-samenwerking krijgen Snowflake-klanten toegang tot Mistral AI's nieuwste en krachtigste LLM, Mistral Large, met benchmarks die het tot een van 's werelds best presterende modellen maakt. Daarnaast heeft Mistral AI's nieuwe flagship-model unieke redeneercapaciteiten, is het bedreven in code en wiskunde, en spreekt het model vloeiend vijf talen - Frans, Engels, Duits, Spaans en Italiaans - in lijn met Mistral AI's inzet om culturele en linguïstische specificiteiten van generatieve AI-technologie te promoten. Het kan ook honderden pagina's aan documenten verwerken in één gesprek. Daarnaast krijgen Snowflake-klanten toegang tot Mixtral 8x7B, Mistral AI's open source model dat OpenAI's GPT3.5 overtreft in snelheid en kwaliteit op de meeste benchmarks, naast Mistral 7B, Mistral AI's eerste foundation model dat is geoptimaliseerd voor lage latency, weinig geheugen nodig heeft en een hoge productie voor zijn grootte. De Mistral AI-modellen zijn nu beschikbaar voor klanten in public preview als onderdeel van Snowflake Cortex, Snowflake's volledig beheerde LLM- en vectorzoekservice die organisaties in staat stelt analyses te versnellen en snel AI-apps te bouwen op een veilige manier met hun bedrijfsdata.

"Door samen te werken met Mistral AI, maakt Snowflake een van de krachtigste LLM's op de markt toegankelijk voor onze klanten, waardoor elke gebruiker in staat wordt gesteld om geavanceerde, AI-aangedreven schaalbare apps te bouwen op een eenvoudige manier", zegt Sridhar Ramaswamy, CEO van Snowflake. "Met Snowflake als de vertrouwde datafoundation transformeren we de manier waarop organisaties de kracht van LLM's benutten via Snowflake Cortex, zodat ze kosteneffectief nieuwe AI-use cases kunnen aanpakken binnen de beveiligings- en privacygrenzen van de Data Cloud."

"De toewijding van Snowflake op het gebied van beveiliging, privacy en governance sluit aan bij de ambitie van Mistral AI om grensverleggende AI voor iedereen overal toegankelijk te maken. Mistral AI deelt de waarden van Snowflake voor het ontwikkelen van efficiënte, nuttige en betrouwbare AI-modellen die de manier bevorderen waarop organisaties over de hele wereld generatieve AI aanboren," zegt Arthur Mensch, CEO en medeoprichter van Mistral AI. "Met onze modellen die beschikbaar zijn in de Snowflake Data Cloud kunnen we AI verder democratiseren, zodat gebruikers geavanceerdere AI-apps kunnen maken die waarde creëren op wereldwijde schaal.”

Snowflake Cortex kondigde voor het eerst support aan voor toonaangevende LLM's voor gespecialiseerde taken zoals sentimentanalyse, vertaling en samenvatten, naast foundation LLM's - te beginnen met Meta AI's Llama 2 model - voor use cases zoals retrieval-augmented generation (RAG) op Snowday 2023. Snowflake blijft investeren op het gebied van generatieve AI door samen te werken met Mistral AI en de suite van fundamentele LLM's in Snowflake Cortex verder te ontwikkelen, zodat organisaties over een eenvoudig pad beschikken om state-of-the-art generatieve AI naar elk onderdeel van hun bedrijf te brengen. Om een serverloze ervaring te leveren die AI toegankelijk maakt voor een brede groep gebruikers, elimineert Snowflake Cortex de langdurige aanschaf en het complexe beheer van GPU-infrastructuur door samen te werken met NVIDIA om een full stack versneld rekenplatform te leveren dat onder andere gebruikmaakt van NVIDIA Triton Inference Server.

Met Snowflake Cortex LLM Functions nu in public preview, kunnen Snowflake gebruikers AI gebruiken met hun enterprisedata om een breed scala aan use cases te ondersteunen. Met behulp van gespecialiseerde functies kan elke gebruiker met SQL-vaardigheden kleinere LLM's gebruiken om specifieke taken zoals sentimentanalyse, vertaling en samenvatting binnen enkele seconden kosteneffectief uit te voeren. Voor complexere use cases kunnen Python-ontwikkelaars binnen enkele minuten van concept naar full-stack AI-apps gaan, zoals chatbots, door de kracht van foundation LLM's - inclusief Mistral AI's LLM's in Snowflake Cortex - te combineren met chat-elementen, binnenkort in public preview, binnen Streamlit in Snowflake. Deze gestroomlijnde ervaring geldt ook voor RAG met de geïntegreerde vectorfuncties en vectordatatypen van Snowflake, beiden binnenkort in public preview, waarbij ervoor wordt gezorgd dat de data nooit de beveiligings- en governanceperimeter van Snowflake verlaten.

Snowflake is toegewijd aan het bevorderen van AI-innovatie, niet alleen voor haar klanten en het Data Cloud-ecosysteem, maar ook voor de bredere technologie-community. Als gevolg hiervan is Snowflake onlangs toegetreden tot de AI Alliance, een internationale gemeenschap van ontwikkelaars, onderzoekers en organisaties die zich inzetten voor het bevorderen van open, veilige en verantwoorde AI. Via de AI Alliance blijft Snowflake de uitdagingen en mogelijkheden van generatieve AI om de voordelen ervan verder te democratiseren.