Databricks kondigt nieuwe Mosaic AI-functies aan voor ontwikkeling van hoogwaardige AI-systemen en applicaties

Organisaties worstelen om hun Generatieve AI-projecten van pilot naar volledige productie te brengen vanwege zorgen over privacy, kwaliteit en kosten. Hoewel de funderingsmodellen aanzienlijk zijn verbeterd, hebben ze nog steeds moeite met het leveren van hoogwaardige resultaten. Zelfs de best presterende modellen kunnen reacties teruggeven die onjuist dan wel onveilig zijn, of vertrouwelijke gegevens naar buiten brengen. Om deze uitdagingen aan te pakken, kiezen organisaties steeds vaker voor samengestelde AI-systemen. Deze benadering maakt gebruik van meerdere componenten, waaronder verschillende modellen, retrievers, vectordatabases en tools voor evaluatie, monitoring, beveiliging en governance. Daardoor bieden samengestelde AI-systemen een veel hogere productiekwaliteit, waardoor organisaties nauwkeurigere, veiligere en beter beheerde AI-toepassingen efficiënt kunnen leveren.

“We geloven dat samengestelde AI-systemen de beste manier zijn om de kwaliteit, betrouwbaarheid en meetbaarheid van AI-toepassingen te maximaliseren. Het is misschien wel een van de belangrijkste AI-trends in 2024”, zegt Matei Zaharia, medeoprichter en CTO van Databricks. “Databricks is in de perfecte positie om deze trends te ondersteunen, dankzij onze investeringen in kwaliteitsverbetering, modeluitbreidingen met realtime gegevens en tools die gebrekkige kennis ondervangen.”

Om klanten te helpen productieklare Generatieve AI-toepassingen te bouwen, lanceert Databricks het Mosaic AI Agent Framework, Mosaic AI Quality Lab, Mosaic AI Tools Catalog, Mosaic AI Model Training en Mosaic AI Gateway.

Mosaic AI Agent Framework en Mosaic AI Tools Catalog voor het bouwen van samengestelde AI-systemen

Databricks introduceert verschillende nieuwe mogelijkheden om klanten te helpen samengestelde AI-systemen te implementeren in de vorm van Retrieval Augmented Generation (RAG). Dit systeem maakt gebruik van meerdere componenten, zoals een vectordatabase en tools voor monitoring, evaluatie, beveiliging en governance om de nauwkeurigheid van het LLM te verbeteren. 

In dit kader kondigde Databricks vorige maand de algemene beschikbaarheid aan van Mosaic AI Vector, een serverloze vectordatabase die naadloos is geïntegreerd in het Data Intelligence Platform. 

Nu volgt Databricks op met Mosaic AI Agent Framework, waarmee ontwikkelaars eenvoudig en veilig hoogwaardige RAG-applicaties kunnen bouwen met funderingsmodellen en hun eigen data. Ze kunnen de kwaliteit van hun RAG-applicatie vervolgens evalueren met Mosaic AI Quality Lab voor snelle iteratie en herimplementatie. Mosaic AI Quality Lab is een AI-ondersteunde evaluatietool die automatisch bepaalt of uitkomsten van hoge kwaliteit zijn, met een intuïtieve gebruikersinterface om feedback van stakeholders op te halen. 

Samengestelde AI-systemen maken doorgaans ook gebruik van tools die mogelijkheden geven om met de wereld te communiceren. Denk aan het intelligent genereren en uitvoeren van code, zoeken op het web en het gebruik van API's. Mosaic AI Tools Catalog helpt organisaties dit soort tools te beheren, delen en registreren met behulp van Databricks Unity Catalog. Dit zorgt ervoor dat modellen deze tools op een veilige en beheerde manier kunnen gebruiken en maakt ze beter vindbaar binnen de organisatie.

Mosaic AI Model Training helpt finetuning van funderingsmodellen voor hogere kwaliteit en lagere kosten

Mosaic AI Model Training helpt om open source funderingsmodellen te finetunen met eigen bedrijfsgegevens, zodat je modellen kunt trainen met branche- of taakspecifieke kennis. Hierdoor leveren ze veel betere resultaten. Daarnaast zijn deze kleinere modellen sneller en goedkoper in gebruik dan grotere AI-modellen – ze bevatten minder parameters en vereisen minder rekenkracht.

Mosaic AI Gateway voor governance voor alle generatieve AI-apps en -modellen
Mosaic AI Gateway biedt een uniforme interface om ieder open source- of propriëtair model te bevragen, beheren en implementeren. Hiermee kunnen klanten eenvoudig de LLM's die hun toepassingen aandrijven vervangen zonder dat er ingewikkelde wijzigingen in de applicatiecode nodig zijn. Het ondersteunt gebruiksmonitoring en guardrails, zodat beheerders ongeacht het gebruikte model kunnen bijhouden welke medewerkers het model gebruiken, gebruikslimieten kunnen instellen om kosten te beheersen, en filters kunnen instellen voor databeveiliging en privacy. Ook biedt Mosaic AI Gateway ingebouwde governance en monitoring om continu de kwaliteit te waarborgen.

Beschikbaarheid

Mosaic AI Agent Framework, Mosaic AI Quality Lab, Mosaic AI Model Training en Mosaic AI Gateway zijn nu beschikbaar in public preview. Mosaic AI Tools Catalog is beschikbaar in private preview. Ga voor meer informatie naar https://www.databricks.com/product/machine-learning