Economie

Microsoft wil ongepaste AI-opdrachten blokkeren met nieuwe tools

Microsoft wil het moeilijker maken voor mensen om chatbots met kunstmatige intelligentie (AI) ongepaste opdrachten te geven. Daarvoor heeft het techbedrijf nieuwe veiligheidsfuncties ontwikkeld, die donderdag bekendgemaakt zijn.

ANP
28 March 2024 14:54

De nieuwe tools worden ingebouwd in het systeem Azure AI Studio, dat wordt aangedreven door het platform OpenAI. Hiermee kunnen ontwikkelaars aangepaste AI-assistenten bouwen met behulp van hun eigen gegevens.

Volgens Microsoft zijn de tools ontworpen om opzettelijke pogingen om AI te misleiden en kwaadaardige instructies te detecteren en te blokkeren. Zo moeten ongeoorloofde acties zoals het stelen van gebruikersgegevens of het kapen van systemen, worden voorkomen. Microsoft introduceert ook een functie die gebruikers waarschuwt wanneer een model dingen verzint of foutieve antwoorden genereert.

RD.nl in uw mailbox?

Ontvang onze wekelijkse nieuwsbrief om op de hoogte te blijven.

Hebt u een taalfout gezien? Mail naar redactie@rd.nl

Home

Krant

Media

Puzzels

Meer