Witold Kepinski - 08 mei 2024

Red Hat versterkt AI en automatisering

Tijdens de Red Hat Summit in Denver heeft Red Hat, leverancier van open source-oplossingen, tal van productinnovaties bekendgemaakt.

Red Hat versterkt AI en automatisering image

De grootste updates integreren krachtige, nieuwe mogelijkheden voor automatisering en voorspellende- en generatieve AI-mogelijkheden binnen de platforms van Red Hat. Red Hat OpenShift AI versnelt AI/ML-implementatie in hybride clouds; Red Hat Enterprise Linux (RHEL) AI biedt een fundament voor AI-modellen; en Red Hat Lightspeed-integraties in zowel OpenShift als RHEL verbeteren de productiviteit van teams die deze platformen gebruiken.

Red Hat OpenShift AI

Red Hat OpenShift AI is een open hybride AI- en ML-platform dat bedrijven in staat stelt om AI-gestuurde applicaties op grote schaal te ontwikkelen en te implementeren in hybride clouds. Dit leidt tot snellere innovatie, een hogere productiviteit en de mogelijkheid om AI in te bedden in dagelijkse bedrijfsprocessen door middel van een flexibeler, schaalbaarder en aanpasbaar open-source platform. Hiermee kunnen zowel voorspellende als generatieve modellen worden gebruikt, met of zonder gebruik van cloudomgevingen.

Red Hat OpenShift AI biedt onder meer:

  • Modelgebruik aan de edge met de uitrol van AI-modellen naar afgelegen locaties via een enkele OpenShift-node. Dit biedt inferentiemogelijkheden in omgevingen met beperkte middelen en onderbroken of geïsoleerde netwerktoegang. Beschikbaar in preview.
  • Verbeterde uitvoering van voorspellende en generatieve AI-modellen door gebruik te maken van meerdere model-servers. Zo kun je verschillende typen servers inzetten voor model-orkestratie, LLM's en natuurlijke taalverwerking.
  • Gedistribueerde workloads met Ray door gebruik te maken van CodeFlare en KubeRay, die meerdere cluster nodes gebruiken voor snellere en efficiëntere gegevensverwerking en modeltraining. Ray versnelt AI-workloads, terwijl KubeRay deze op Kubernetes beheert. CodeFlare biedt een gebruiksvriendelijk framework voor versimpelde taakorkestratie en monitoring.
  • Verbeterde modelontwikkeling door middel van project-workspaces en extra workspace-images die datawetenschappers de flexibiliteit bieden om IDE's en toolkits te gebruiken zoals VS Code en RStudio (beschikbaar als preview), en een verbeterde CUDA-architectuur voor diverse use cases en modeltypes.
  • Visualisering van modelwerking en operationele statistieken voor meer inzicht in de prestaties van AI-modellen.
  • Nieuwe acceleratorprofielen waarmee beheerders verschillende soorten hardwareversnellers voor modelontwikkeling en -workflows kunnen configureren. Dit biedt eenvoudige toegang tot het juiste type accelerator voor specifieke workloads.

Red Hat Enterprise Linux AI

Red Hat Enterprise Linux AI (RHEL AI) dient als fundament voor AI-modellen, waarmee gebruikers op gebruiksvriendelijke wijze generatieve AI-modellen kunnen ontwikkelen, testen en implementeren. RHEL AI combineert de open source-gelicenseerde Granite LLM’s van IBM Research, InstructLab-tools om modellen op elkaar af te stemmen op basis van de LAB-methodologie (Large-scale Alignment for chatBots) en een community-gedreven benadering voor modelontwikkeling via InstructLab. De InstructLab open source-community is opgericht door Red Hat en IBM om het developers net zo makkelijk te maken om bij te dragen aan LLM-ontwikkeling als ieder ander open source-project.

RHEL AI wordt aangeboden als een geoptimaliseerde, startklare RHEL-image voor individuele serverimplementaties in hybride cloudomgevingen. RHEL AI is onderdeel van OpenShift AI. Red Hat RHEL AI bevat:

  • Open source-gelicenseerde Granite-taal- en codemodellen die volledig worden ondersteund en vergoed door Red Hat.
  • Een ondersteunde versie van InstructLab met levenscyclusbeheer die een schaalbare, kosteneffectieve oplossing biedt voor het verbeteren van LLM-capaciteiten en een bredere toegang tot kennis en vaardigheden voor een veel breder publiek.
  • Geoptimaliseerde, bootable runtime-instances met Granite-modellen en InstructLab-tools in de vorm van bootable RHEL-images, inclusief Pytorch en vereiste runtime-library’s en hardwareversnellers voor NVIDIA, Intel en AMD.
  • Red Hat-ondersteuning gedurende de volledige levenscyclus, beginnend bij betrouwbare productdistributie, 24/7 productieondersteuning, langere levenscyclusondersteuning en een vergoeding voor het intellectueel eigendom van modellen.

RHEL AI wordt onderdeel van OpenShift AI voor meer mogelijkheden in het opschalen van AI-modelontwikkeling en levenscyclusbeheer op basis van MLOps. Zowel OpenShift AI als RHEL AI worden ook geïntegreerd met IBM watsonx, wat extra mogelijkheden biedt voor enterprise AI-ontwikkeling, gegevensbeheer en modelgovernance.

Darktrace BW 28-05 tm 18-06-2024 Zscaler BW 04-06 tm 18-06-2024
Darktrace BN en BW 04-06-2024 tm 18-06-2024