Het bedrijf is in 2022 begonnen met het ontwikkelen van de tool die Voice Engine heet. Het model kan iemands spraak dupliceren op basis van een audiofragment van vijftien seconden en tekstinvoer.

„We erkennen dat het genereren van spraak die lijkt op de stem van mensen ernstige risico’s met zich meebrengt. Die staan vooral hoog op de agenda in een verkiezingsjaar”, schrijft het bedrijf in een blogpost.

Andere AI-technologie is al gebruikt om stemmen te vervalsen. Zo was er in januari nog een door AI geproduceerde geluidsopname die klonk als de stem van de Amerikaanse president Joe Biden. In deze opname werden Democratische kiezers opgeroepen niet te gaan stemmen bij de voorverkiezingen in de staat New Hampshire.

OpenAI heeft de tool met tien ontwikkelaars gedeeld. Het bedrijf vraagt eerst feedback van externe experts voordat het beslist of de functie breder wordt vrijgegeven. OpenAI werkt samen met onder meer Amerikaanse en internationale overheidspartners, media en onderwijsinstellingen om ervoor te zorgen dat hun feedback tijdens het bouwproces wordt meegenomen.

Een van de ontwikkelingspartners gebruikt de technologie om patiënten te helpen hun stem terug te krijgen. Mensen die niet kunnen praten, kunnen nu een stem gebruiken die niet klinkt als een robot, maar die realistisch is en met emotie, volgens OpenAI. Ook kan de technologie nuttig zijn voor video- en podcastmakers om hun content te vertalen en zo meer mensen te bereiken.

In het testprogramma eist OpenAI van zijn partners dat ze akkoord gaan met het gebruiksbeleid, toestemming hebben van de oorspronkelijke spreker voor ze diens stem gebruiken en aan luisteraars bekendmaken dat de stemmen die ze horen door AI zijn gegenereerd.