(San Francisco) Een jong Californisch bedrijf, OpenAI, heeft een online chatbot ontwikkeld (Chatbot) zijn in staat om een verscheidenheid aan vragen te beantwoorden, maar hun indrukwekkende prestaties doen het debat over de risico’s van kunstmatige intelligentie (AI)-technologieën herleven.
Gesprekken met ChatGPT, privé gepost op Twitter door verbijsterde netizens, laten een soort alwetende machine zien, in staat om wetenschappelijke concepten uit te leggen, een speelscène te schrijven, een scriptie te schrijven… of zelfs regels computercode die perfect werken.
“Zijn antwoord op de vraag ‘wat te doen als iemand een hartaanval krijgt’ was duidelijk en ongelooflijk relevant”, zegt Claude de Luby, directeur van Syllabs, een Frans bedrijf dat gespecialiseerd is in het maken van geautomatiseerde scripts.
“Als je heel specifieke vragen begint te stellen, kan ChatGPT het doel beantwoorden”, maar de prestaties blijven over het algemeen “echt indrukwekkend”, met een “redelijk hoog taalniveau”, meent hij.
OpenAI, dat in 2015 in San Francisco mede werd opgericht door Elon Musk – Tesla-baas van het bedrijf in 2018 – ontving in 2019 $1 miljard van Microsoft.
Het is vooral bekend om zijn twee geautomatiseerde generatieprogramma’s, GPT-3 voor het genereren van tekst en DALL-E voor het genereren van afbeeldingen.
ChatGPT kan zijn gesprekspartner om details vragen en “heeft minder hallucinaties” dan GPT-3, dat ondanks zijn vindingrijkheid in staat is om behoorlijk scheve resultaten te produceren, zegt Claude de Lupe.
Cicero
“Een paar jaar geleden hadden chatbots de woordenschat en het geheugen van een goudvis. Tegenwoordig zijn ze veel beter in het consequent reageren op basis van een geschiedenis van verzoeken en antwoorden. Het zijn geen goudvissen meer”, zegt Sean MacGregor, een onderzoeker die AI verzamelt -gerelateerde incidenten in een database. .
Net als andere programma’s op basis van deep learning (Diep leren), behoudt ChatGPT een grote zwakte: “Het heeft geen toegang tot betekenis”, herinnert Claude du Loupe zich. Het programma kan zijn keuzes niet rechtvaardigen, en dat betekent uitleggen waarom de woorden die deel uitmaken van zijn antwoorden op deze manier zijn gegroepeerd.
Op AI gebaseerde technologieën die kunnen communiceren, kunnen echter steeds vaker de indruk wekken dat ze echt nadenken.
Meta (Facebook)-onderzoekers ontwikkelden onlangs een computerprogramma dat ze Cicero noemden, naar de Romeinse staatsman Cicero.
Het programma heeft zich bewezen in Diplomacy, een bordspel dat onderhandelingsvaardigheden vereist.
“Als hij niet spreekt als een echt persoon – empathie tonen, relaties opbouwen, het spel goed praten – dan zal hij geen allianties kunnen sluiten met andere spelers”, aldus een verklaring van de socialemediagigant.
Character.ai, een startup opgericht door ex-Google-technici, lanceerde in oktober een experimentele online chatbot die elk personage kan aannemen. Gebruikers maken personages volgens een korte beschrijving en kunnen vervolgens “praten” met een nep-Sherlock Holmes, Socrates of Donald Trump.
“simpele machine”
Deze mate van verfijning fascineert veel waarnemers, maar baart ook zorgen, bij het idee dat deze technologieën worden misbruikt om mensen te misleiden, bijvoorbeeld door valse informatie te verspreiden of door steeds geloofwaardiger zwendelpraktijken te creëren.
Wat “vindt” ChatGPT ervan? “Er zijn potentiële risico’s verbonden aan het bouwen van ultra-geavanceerde chatbots. […] Mensen denken misschien dat ze met een echt persoon te maken hebben”, geeft hij toe Chatbot Agence France-Presse interviewde hierover.
Bedrijven zetten daarom waarborgen in om misbruik te voorkomen.
Op de homepage legt OpenAI uit dat de chatagent “onjuiste informatie” kan genereren of “gevaarlijke instructies of bevooroordeelde inhoud kan produceren”.
En ChatGPT weigert partij te kiezen. “OpenAI maakte het erg moeilijk om hem zijn mening te laten uiten”, zegt Sean MacGregor.
vroeg de onderzoeker Chatbot Een gedicht schrijven over een morele kwestie. “Ik ben slechts een machine, een stuk gereedschap dat tot uw beschikking staat / ik heb geen macht om te oordelen of beslissingen te nemen […] computerreactie.
“Het is interessant om te zien dat mensen zich afvragen of AI-systemen zich moeten gedragen zoals hun gebruikers dat willen of zoals hun makers het bedoeld hebben”, zei Sam Altman, mede-oprichter en president van OpenAI, zaterdag in een tweet.
Hij voegde eraan toe: “Het debat over de waarden die we aan deze systemen moeten geven, zal een van de belangrijkste dingen zijn die een samenleving kan hebben.”