Top AI-konference forbyder ChatGPT fra at skrive akademiske papirer

Del denne historie!
ChatGPT står for "Chat Generative Pre-trained Transformer". Det kan udføre naturlig sproggenerering med et så højt niveau af nøjagtighed, at det kan bestå Turing Test, dvs. at narre mennesker, at de kommunikerer med en computer. Selv Technocrat AI-ledere erkender de farlige konsekvenser og opsætter stopskilte. ⁃ TN-redaktør

AI-værktøjer kan bruges til at 'redigere' og 'polere' forfatteres arbejde, siger konferencearrangørerne, men tekst 'helt produceret' af AI er ikke tilladt. Dette rejser spørgsmålet: hvor trækker du grænsen mellem redigering og skrivning?

En af verdens mest prestigefyldte maskinlæringskonferencer har forbudt forfattere at bruge AI-værktøjer som ChatGPT til at skrive videnskabelige artikler, hvilket udløste en debat om AI-genereret teksts rolle i den akademiske verden.

Den internationale konference om maskinindlæring (ICML) annoncerede politikken tidligere på ugen og sagde: "Aviser, der inkluderer tekst genereret fra en storstilet sprogmodel (LLM) såsom ChatGPT, er forbudt, medmindre den producerede tekst præsenteres som en del af papirets eksperimentelle analyse." Nyheden udløste udbredt diskussion på sociale medier, hvor AI-akademikere og forskere både forsvarer og kritiserer politikken. Konferencens arrangører reagerede pr offentliggøre en længere redegørelse forklare deres tankegang. (ICML svarede på anmodninger fra The Verge for kommentar ved at henvise os til denne samme erklæring.)

Ifølge ICML, fremkomsten af ​​offentligt tilgængelige AI-sprogmodeller som ChatGPT - en generel AI-chatbot, der lanceret på nettet i november sidste år - repræsenterer en "spændende" udvikling, der ikke desto mindre kommer med "uventede konsekvenser [og] ubesvarede spørgsmål." ICML siger, at disse omfatter spørgsmål om hvem ejer produktionen af ​​sådanne systemer (de er trænet i offentlige data, som normalt indsamles uden samtykke og undertiden gengiver disse oplysninger ordret), og om tekst og billeder genereret af AI skal "betragtes som nye eller blot afledte af eksisterende arbejde."

Sidstnævnte spørgsmål knytter sig til en vanskelig debat om forfatterskab - det vil sige, hvem "skriver" en AI-genereret tekst: maskinen eller dens menneskelige controller? Dette er særligt vigtigt i betragtning af, at ICML kun forbyder tekst "helt produceret" af AI. Det siger konferencens arrangører, at de er ikke forbud mod brug af værktøjer som ChatGPT "til redigering eller polering af forfatterskreven tekst" og bemærk, at mange forfattere allerede brugte "semi-automatiserede redigeringsværktøjer" som grammatikkorrigerende software Grammarly til dette formål.

"Det er sikkert, at disse spørgsmål, og mange flere, vil blive besvaret over tid, da disse generative modeller i stor skala bliver mere udbredt. Vi har dog endnu ikke nogle klare svar på nogen af ​​disse spørgsmål,” skriver konferencens arrangører.

Som et resultat siger ICML, at dets forbud mod AI-genereret tekst vil blive revurderet næste år.

Spørgsmålene, som ICML adresserer, kan dog ikke være lette at løse. Tilgængeligheden af ​​AI-værktøjer som ChatGPT skaber forvirring for mange organisationer, hvoraf nogle har reageret med deres egne forbud. Sidste år, kodende Q&A site Stack Overflow forbudte brugere at indsende svar oprettet med ChatGPT, mens New York Citys Department of Education blokeret adgang til værktøjet for alle på dets netværk i denne uge.

I hvert tilfælde er der forskellig frygt for de skadelige virkninger af AI-genereret tekst. En af de mest almindelige er, at output fra disse systemer simpelthen er upålidelige. Disse AI-værktøjer er enorme autofuldførelsessystemer, trænet til at forudsige, hvilket ord der følger det næste i en given sætning. Som sådan har de ingen hårdkodet database med "fakta" at trække på - blot evnen til at skrive plausibelt klingende udsagn. Det betyder, at de har en tendens til at præsentere falsk information som sandhed siden om en given sætning lyde plausible garanterer ikke dets faktualitet.

I tilfælde af ICML's forbud mod AI-genereret tekst, er en anden potentiel udfordring at skelne mellem skrivning, der kun er blevet "poleret" eller "redigeret" af AI, og det, der er blevet "produceret fuldstændigt" af disse værktøjer. På hvilket tidspunkt udgør en række små AI-guidede rettelser en større omskrivning? Hvad hvis en bruger beder et kunstig intelligens-værktøj om at opsummere deres papir i et hurtigt abstrakt? Tæller dette som nygenereret tekst (fordi teksten er ny) eller ren polering (fordi det er et resumé af ord, forfatteren skrev)?

Læs hele historien her ...

Om redaktøren

Patrick Wood
Patrick Wood er en førende og kritisk ekspert på bæredygtig udvikling, grøn økonomi, Agenda 21, 2030 Agenda og historisk teknokrati. Han er forfatter af Technocracy Rising: The Trojan Horse of Global Transformation (2015) og medforfatter til Trilaterals Over Washington, bind I og II (1978-1980) med afdøde Antony C. Sutton.
Tilmeld
Underretning af
gæst

3 Kommentarer
Ældste
Nyeste Mest afstemt
Inline feedbacks
Se alle kommentarer
Krus Diller

Det er som at vedtage en lov i 1905, der tillader biler, men kun hvis de trækkes af en hest.

godot

FORBYD forfattere fra at bruge AI-værktøjer! Held og lykke med det. Og OJ Simpson leder stadig efter den rigtige morder.

Modstand 21

Jeg lyttede lige til din Quickening-rapport om dette emne og besluttede at kommentere her. (1) Du angiver, at ChatGPT kan udføre dybe forfalskninger af voice-over til videoer. Dette kunne også være et propagandaspil, så Deep State-aktørerne kan benægte, hvad de virkelig sagde på videobeviserne, vi indsamler. (2) Det eneste, jeg kan være sikker på, er, at jeg ikke ved, hvad der er i den anden ende af grænsefladen. Hvem eller hvad er manden bag gardinet? Hvornår er det en AI, et menneske eller en propagandist? Se også begrebet Mekanisk... Læs mere "

Sidst redigeret for 2 måneder siden af ​​Resistance21