Cloudflare introduceert tools die inzicht bieden in AI-gebruik

De Identity-Aware AI Gateway ondersteunt organisaties die twee AI-gerelateerde uitdagingen het hoofd willen bieden: stijgende kosten en securitylacunes. Individuele AI-verzoeken worden goedkoper, maar er worden steeds meer AI-verzoeken verstuurd. Daardoor nemen de kosten zonder veel waarschuwing of uitleg flink toe. Daarnaast kunnen gevoelige gegevens, zoals namen van werknemers en vertrouwelijke bestanden, ongemerkt naar externe AI-providers worden doorgestuurd, zonder dat iemand dit door heeft. 

Met de oplossing van Cloudflare kunnen organisaties zien welke medewerker of agent een verzoek naar een AI-model heeft gestuurd. Ook kunnen ze uitgavenlimieten op individueel of teamniveau instellen en risicovolle content automatisch markeren. Volgens Cloudflare hoeven hier geen nieuwe systemen voor worden gebouwd en wordt de werkwijze van medewerkers niet verstuurd. 

Ook is er een aanvullende functie: AI Spend. Deze functie leert hoe het normale AI-gebruik eruitziet voor iedere persoon en elk geautomatiseerd systeem binnen een netwerk. Wijkt er iets van dat patroon af, dan worden teams gewaarschuwd. 

De combinatie van AI Gateway en User Insights biedt bedrijven de mogelijkheid:

• Precies te zien wie wat verstuurt: door AI Gateway aan Cloudflare Access te koppelen, is elk AI-verzoek nu aan een geverifieerde identiteit gelinkt, of het nu gaat om een medewerker of een geautomatiseerd systeem (agent).
• Ongebruikelijk gedrag opvangen voordat het een probleem wordt: Insights houdt de AI-activiteit van iedere gebruiker in de loop der tijd bij en stelt een gebruikersbaseline op. Wanneer de uitgaven aanzienlijk hoger uitvallen dan wat normaal is voor een bepaalde gebruiker of een bepaald systeem, krijgt de IT-afdeling een melding.
• Efficiëntieverbeteringen blootleggen die op grote schaal al snel over het hoofd worden gezien: AI Spend controleert of medewerkers krachtige modellen gebruiken voor eenvoudige taken die ook door lichtere, goedkopere modellen kunnen worden uitgevoerd, waardoor men de efficiëntie eenvoudig kan verbeteren.
• Identiteitsgebaseerde toegang en authenticatie handhaven: organisaties kunnen onbeveiligde, gedeelde API-sleutels vervangen door integratie met hun identiteitsprovider (IdP) en Zero Trust (ZTNA)-infrastructuur. Hiermee wordt de toestand van het apparaat en gebruikers gecontroleerd voordat verzoeken naar de modelprovider worden verzonden, zonder dat dit de acceptatie vertraagt, waarbij geverifieerde identiteiten rechtstreeks in de verzoeklogboeken worden vastgelegd.
• Al het AI-verkeer op één locatie inzien en beheren: alle verzoeken lopen via één centraal punt. Dat biedt de IT-afdeling direct inzicht in het gehele systeem, zoals de mogelijkheid om herhaalde verzoeken in de cache op te slaan en overbodige kosten te besparen, rate limiting toe te passen om ongebreideld gebruik te voorkomen voordat dit wordt gefactureerd, en automatische filters te gebruiken die de namen van medewerkers, wachtwoorden en andere gevoelige gegevens verwijderen voordat deze bij een externe AI-aanbieder terechtkomen.

Meer informatie over de Identity-Aware AI Gateway is te vinden in een blogbericht van Cloudflare.