Phys.org: DraftMarks čini vidljivom ulogu AI-a u studentskim radovima

Istraživači iz Georgia Tech-a i Stanfordskog univerziteta objavili su DraftMarks, alat otvorenog koda koji nanosi vizuelne anotacije na dokumente kako bi pokazao gde je AI bio uključen u proces pisanja. Alat je dizajniran za akademski kontekst, gde je pitanje kako studenti koriste AI važnije od pitanja da li ga uopšte koriste.

DraftMarks koristi skup vizuelnih markera za označavanje različitih vrsta AI uključenosti. Tragovi gumice označavaju intenzivno revidovane odeljke. Maskirna traka označava AI-generisani tekst koji je zadržan uz minimalne izmene. Tragovi lepka ukazuju na AI-generisani sadržaj koji je naknadno obrisan. Tekst-duh prikazuje AI predloge koji su generisani, ali nisu korišćeni. Različiti fontovi razlikuju pasaže koje je pisac sam napisao od onih koje je generisao AI. Vizuelni jezik je osmišljen da učini sam proces pisanja vidljivim — ne samo konačni rezultat.

Osnovna ideja je sledeća: postojeći alati za otkrivanje AI-a odgovaraju na binarno pitanje — da li je AI korišćen ili nije. DraftMarks postavlja drugačije pitanje: kako su čovek i AI interagovali i u kojim fazama. U periodu kada 90 odsto studenata, prema podacima istraživača, koristi AI u radu na zadacima, binarni pristup detekciji ima ograničenu vrednost. Obrazac saradnje čoveka i AI-a važniji je od same činjenice o njegovom prisustvu.

Za profesionalno pisanje, osnovna ideja prevodi se u oblast uredničke transparentnosti. Kako AI-podržano pisanje nacrta postaje uobičajeno u produkciji sadržaja i novinarstvu, pitanje kako pred čitaocima i urednicima predstaviti stepen AI uključenosti ostaje otvoreno. DraftMarks ne rešava taj problem za profesionalne kontekste — stvoren je za akademsku upotrebu — ali pruža konkretan model toga kako bi detaljnija AI atribucija mogla da izgleda u praksi. Alat je otvorenog koda i dostupan za prilagođavanje.

Vodeći autor je Momin Siddiqui; u projektu je učestvovao i doktorand računarskih nauka Adam Coscia.