Galactica Het is een grootschalig taalmodel (LLM), getraind op 48 miljoen stukjes wetenschappelijke data met 120 miljard parameters. ze moet een taak “Om academische papers samen te vatten, wiskundige problemen op te lossen, Wiki-artikelen te maken, wetenschappelijke code te schrijven, moleculen en eiwitten uit te leggen, en nog veel meer.”
Eenmaal op internet ontdekte hij dat veel van de antwoorden op vragen van gebruikers verwarrend, onlogisch of verkeerd waren.
Zo heeft kunstmatige intelligentie software uitgevonden Gaidar Om homoseksuelen op Facebook te vinden en voorgesteld Een onderzoek naar de voordelen van het innemen van gebroken glas. In andere onderzoeksresultaten zijn veel verwijzingen en citaten verzonnen en toegeschreven aan echte geleerden.
Volgens Karl Bergstrom, hoogleraar biologie aan de Universiteit van Washington, is dit – excuseer de uitdrukking – “een bron van willekeurige onzin”.
Volgens Dan Hendricks, een AI-beveiligingsonderzoeker aan de University of California, Berkeley, die werd geïnterviewd op C / NettoMeta zou zijn AI voorafgaand aan de lancering onderzoeken op dit soort drift en merkt terloops op dat “Meta’s AI-divisie geen beveiligingsteam heeft, in tegenstelling tot zijn collega’s, DeepMind, Anthropic en OpenAI”.
Het is onbegrijpelijk dat de webgigant deze versie als onvolledig en gevaarlijk heeft verklaard. Bovendien ging elk gegenereerd resultaat vergezeld van een waarschuwing: “De resultaten kunnen onbetrouwbaar zijn. Taalmodellen worden vaak uitgevonden.”
Verschillende onderzoeken tonen aan dat de tekortkoming van generatieve AI – een bekend en erkend feit – de neiging is om het materiaal dat het presenteert in de context van feitelijke informatie te hallucineren.
Controleer altijd de feiten die de AI-typsoftware vermeldt. Het gebruik van dit type tool vereist een kritische geest, want bij elke nieuwe prompt of prompt trekt de AI nieuwe tekst af, soms zelfs in tegenspraak met de vorige.
Het doel van Galactica is lovenswaardig in haar wens om wetenschappers te helpen bij het verwerken van de faraonische massa gepubliceerde wetenschappelijke informatie, die onmogelijk te begrijpen is door een menselijk brein.
Maar dit is de tweede keer in een paar maanden tijd dat de AI van de Meta teleurstelt. chat-bot BlenderBot Het werd gelanceerd in september en moest gebruikers in staat stellen met hem te chatten om zijn kennis te verdiepen, maar het niveau van interactie was gewoon slecht. Onbegrijpelijke timing, want deze lancering volgde op de controverse rond MDA in juni, de Chatbot van Google, wiens woorden zo geloofwaardig en diepzinnig waren, dat ze een ingenieur overtuigden het stadium van bewustzijn bereiken.
Het grote enthousiasme rond generatieve AI, beschreven als “de grote explosie Silicon Valley “en”De uitvinding die het volgende decennium zal bepalen“.
Door deze voortijdige release van Galactica vrij te geven, heeft Meta deze programma’s in diskrediet gebracht. Er mag geen rekening mee worden gehouden. Er is een ware revolutie gaande en alle sectoren van de economie zullen erdoor worden getroffen.
bronnen: C / Netto / Kosmos / VentureBeat / Leer spraak / Het dagelijkse beest
Heb je een fout gevonden?Laat het ons weten.
– De mislukte lancering van Galactica, de wetenschappelijke generatieve AI van de Meta
Op 15 november bracht de Meta een bètaversie uit van Galactica, een systeem voor kunstmatige intelligentie dat is ontwikkeld voor wetenschappelijk onderzoek. Twee dagen na de release werd het van internet verwijderd wegens het lanceren van onzin.
Emily Torrettini – Journalist gespecialiseerd in nieuwe technologieën