Cloud Security Alliance start AI Safety Initiative

Deze groep wordt vergezeld door een brede coalitie van experts uit de Cybersecurity & Infrastructure Security Agency (CISA), andere regeringen, de academische wereld en een groot aantal sectoren in wat het grootste aantal deelnemers vertegenwoordigt in welk initiatief dan ook in de 14-jarige geschiedenis van CSA. Een landingspagina voor dit initiatief is beschikbaar opwww.cloudsecurityalliance.ai en zal tijdens de beginfase voortdurend worden bijgewerkt.

Het AI Safety Initiative richt zich op het opstellen en openlijk delen van betrouwbare richtlijnen voor de veiligheid en beveiliging van AI, waarbij de nadruk in eerste instantie ligt op generatieve AI. Het is bedoeld om klanten, ongeacht hun grootte, uit te rusten met de tools, sjablonen en knowhow om AI op een veilige, ethische en conforme manier in te zetten. Door zich aan te passen aan overheidsregelgeving en flexibele industriestandaarden toe te voegen, overbrugt dit initiatief de kloof tussen beleid en praktijk. Het AI Safety Initiative ontwikkelt actief praktische waarborgen voor de huidige generatieve AI, gestructureerd op een manier die helpt bij de voorbereiding op de toekomst van veel krachtigere AI-systemen. Het doel is om de risico’s te verminderen en de positieve impact van AI in alle sectoren te vergroten.

“Generatieve AI hervormt onze wereld en biedt enorme beloftes, maar ook enorme risico’s. Het is van cruciaal belang dat we ons verenigen om kennis en best practices te delen. De samenwerkingsgeest van leiders die de grenzen van de concurrentie overschrijden om best practices te onderwijzen en te implementeren, heeft ons in staat gesteld de beste aanbevelingen voor de sector op te stellen”, zegt Caleb Sima, veteraan uit de sector en voorzitter van het Cloud Security Alliance AI Safety Initiative.

Het AI Safety Initiative is begonnen met bijeenkomsten van zijn belangrijkste onderzoekswerkgroepen:

• AI-technologie en risicowerkgroep
• AI-beheer en Werkgroep Compliance
• Werkgroep AI-controles
• AI-werkgroep organisatorische verantwoordelijkheden

De groep heeft meer dan 1.500 deskundige deelnemers; Geïnteresseerden kunnen hier informatie opvragen

Het AI Safety Initiative zal updates geven over de voortgang ervan en toonaangevende sprekers hosten op twee grote komende evenementen:

• De CSA Virtual AI Summit (17-18 januari 2024; online)
• De CSA AI Summit op de RSA-conferentie (6 mei 2024; San Francisco)

Bovendien worden de 110 afdelingen van CSA over de hele wereld gemobiliseerd om deel te nemen aan de mondiale activiteiten en lokale AI-belanghebbenden binnen hun land of regio te betrekken.

“AI zal de meest transformerende technologie van ons leven zijn en zowel een enorme belofte als een aanzienlijk gevaar met zich meebrengen”, zegt Jen Easterly, directeur van de Cybersecurity and Infrastructure Security Agency. “Door samenwerkingspartnerschappen als deze kunnen we collectief het risico verkleinen dat deze technologieën worden misbruikt door de stappen te nemen die nodig zijn om best practices te onderwijzen en bij te brengen bij het beheren van de volledige levenscyclus van AI-capaciteiten, en ervoor te zorgen – het allerbelangrijkste – dat ze worden ontworpen, ontwikkeld, en ingezet om veilig te zijn.”

“De AI-systemen van Anthropic zijn ontworpen om behulpzaam, eerlijk en onschadelijk te zijn. We kijken ernaar uit om onze expertise in te zetten bij het opstellen van richtlijnen voor veilige en verantwoorde AI-systemen voor de bredere industrie. Door samen te werken aan initiatieven als deze die zich vandaag de dag richten op generatieve modellen – met het oog op meer geavanceerde AI in de toekomst – kunnen we ervoor zorgen dat deze transformatieve technologie de hele samenleving ten goede komt,” zei Jason Clinton, hoofdveiligheidsfunctionaris van Anthropic.

"De CSA deelt onze overtuiging dat generatieve AI-vooruitgang op de lange termijn zal worden bereikt wanneer particuliere organisaties, de overheid en de academische wereld zich op één lijn bevinden rond industriestandaarden, zoals uiteengezet in onze Secure AI Framework (SAIF). Voortdurende samenwerking binnen de sector zal organisaties helpen ervoor te zorgen dat opkomende AI-technologieën een grote impact zullen hebben op het beveiligingsecosysteem”, zegt hij. zegt Phil Venables, CISO bij Google Cloud.

“Beveiliging is de basis van betrouwbare, veilige en verantwoordelijke AI en vormt de kern van de missie van OpenAI. We erkennen de kansen voor nieuwe beveiligingsframeworks en zijn blij om dit samen te kunnen aanpakken”, zegt Matt Knight, hoofd beveiliging bij OpenAI. “Deze coalitie, en de richtlijnen die daaruit voortkomen, zullen normen vaststellen die ervoor zorgen dat AI-systemen veilig worden gebouwd.”

Ga voor meer informatie naar de startpagina van het initiatief op www.cloudsecurityalliance.ai.