Wouter Hoeffnagel - 02 april 2024

OpenAI terughoudend met vrijgeven AI-tool die stemmen kan klonen

Een nieuwe tool van OpenAI is in staat op basis van een audiobestand van slechts 15 seconden op overtuigende wijze de stem van personen na te bootsen. Met het oog op onder meer de aanstormende verkiezingen in de Verenigde Staten (VS) is het bedrijf echter terughoudend met het vrijgeven van de tool.

OpenAI terughoudend met vrijgeven AI-tool die stemmen kan klonen image

Het gaat om Voice Engine van OpenAI, een nieuwe tool waarmee gebruikers aan de hand van een sample-bestand en een uitgeschreven tekst een stem kunnen nabootsen en dingen kunnen laten zeggen. OpenAI stelt dat slechts vijftien seconden audio nodig is om een realistische weergave van een stem te creëren.

OpenAI test Voice Engine samen met een aantal partners sinds eind 2022. Het stelt hierbij bewust een voorzichtige aanpak te hanteren gezien het potentieel van het misbruik van synthetische stemmen. OpenAI zegt een dialoog op gang te willen brengen over het verantwoord inzetten van gekloonde stemmen. Op basis van deze gesprekken en de resultaten van kleinschalige experimenten wil het bedrijf besluiten of en hoe de technologie op grote schaal ingezet kan worden.