Psaní do školy a AI v roce 2024 pohledem AI skeptika

S rozvojem technologií umělé inteligence (AI) přicházejí nové možnosti, ale také výzvy, které výrazně ovlivňují svět vzdělávání. Používání AI při psaní akademických prací se stává stále běžnějším, přičemž nástroje jako ChatGPT nabízejí studentům pomoc při generování textů, jazykové korektuře a strukturaci argumentů. Tento trend však vyvolává závažné otázky ohledně etiky, akademické integrity a budoucnosti vzdělávání. Jak mohou studenti využívat AI zodpovědně? Tato esej se zabývá přínosy a riziky spojenými s využíváním AI v akademickém psaní a hledá rovnováhu mezi inovací a zachováním vysokých standardů akademické práce.

Je možné, že jsem k tomuto tématu přišel tak trochu s křížkem po funuse, největší hype okolo LLM a jejich příslibů generování smysluplných textů už myslím z velké části opadl s tím, jak se znovu a znovu ukazuje že textům vygenerovaným pomocí LLM se nedá spolehlivě věřit. Nijak se netajím tím, že jsem byl od začátku k LLM a AI obecně velmi skeptický. Dokonce si myslím, že jsem k tomu abych o tom mohl vůbec nějak přemýšlet jistý časový odstup, abych se alespoň částečně oprostil od mé původní, zatvrzele negativní reakce. Přiznávám tedy svůj AI skeptický bias, ale i tak by podle mě bylo nemoudré předstírat že LLM neexistují a tím ignorovat i případné možnosti jejich využití. Nejsem tedy jedním z těch, kteří v příchodu LLM vidí nepřekonatelnou hrozbu akademické integritě a nemyslím si že LLM a AI signalizují příchod Asimovského období intelektuálního barbarství. Smyslem této seminární práce je primárně mé osobní hledání odpovědi na otázku, co vlastně dělat s tím že LLM existují a případně jak je používat při studiu. Z části jsem si téma také vybral proto, že s úkolem vyplodit jakýkoliv prezentovatelný text stále ještě trochu bojuji.

Na tomto místě by asi bylo vhodné udělat si ucelený obraz o tom, jak se o AI píše, toto už ale za mě naštěstí udělal někdo jiný. Imran & Almusharraf (2023) došli po analýze článků zaměřených na ChatGPT a jeho roli jako pomocníka při psaní v prostředí vyššího vzdělávání k několika zajímavým, avšak dnes již ne zcela překvapujícím zjištěním. ChatGPT nezřídkakdy halucinuje fakta, pro čež není vhodným, spolehlivým a samostatným spoluautorem. Z části kladně byla v literatuře hodnocena jeho schopnost generovat úvody, abstrakty a další sumarizační pasáže. Jako nejslibnější využití AI při psaní je pak hodnocen její potenciál “AI koučování”, tedy pro poskytování zpětné vazby, rad a případnou korekturu.

Osobně jsem si tento způsob práce s AI vyzkoušel, když jsem zjistil že nejlepším způsobem jak se dostat z autorského bloku je v mém případě to, když si o tématu které zpracovávám s někým promluvím. Možnost vést dialog nad tématem s AI mi v ten okamžik přišla dosti lákavá, bohužel ale nesplnila má očekávání. To je ovšem pouze má osobní zkušenost, dost možná ovlivněná tím, že mám problém výstupy z LLM brát vážně. Co se týká používání výstupu z LLM přímo v textu, jedná se o něco čemu jsem se zatím vyhýbal, začínám ale vážně zvažovat že v této seminární práci udělám výjimku a nechám si vygenerovat AI úvod. Tímto se k tomu tedy přiznávám a v rámci transparentnosti dávám na vědomí, že první odstavec mi vygeneroval ChatGPT.

Používání LLM jako kompenzační pomůcky pro lidi, kterým podobně jako mě dělá psaní problém, je ale v akademickém prostředí problematické. Dostáváme se totiž k otázce autorství, akademické integrity a plagiátorství. Anson (2022) k tomuto uvádí, že plagiátorství je společenský konstrukt a jako takový je závislý na širším kontextu. Akademické prostředí si na správně uznaném autorství dává záležet, konec konců akademici jsou živi svou publikační činností. Myšlenka že si student na základě krátkého promptu může nechat vygenerovat rozsáhlý esej je tedy je tedy právem dosti děsivá. Pandořina skříňka umělé inteligence je ale již otevřená a AI tu je a bude, je taky velmi pravděpodobné že se bude neustále zdokonalovat. Bylo by tedy mrzuté ji zcela ignorovat, jelikož i AI dotváří kontext naší doby. Anson tedy říká že než-li se snažit snažit nacpat čertíka AI zpátky do krabičky a užívání AI při psaní se snažit potírat, bude lepší zaměřit snahu k vytvoření postupů a pravidel které pomohou AI zodpovědně integrovat do akademické praxe.

Pro moje účely je kontextem akademické prostředí a přesněji pak MUNI, která však došla pravděpodobně podobných závěrů jako Anson a publikovala své stanovisko k využívání umělé inteligence ve výuce (Masarykova univerzita, 2023). Toto stanovisko mimo jiné nabádá studenty k transparentnosti v přístupu k použití AI v akademických pracích, což je něco co osobně vnímám velmi pozitivně, ačkoliv automatická detekce AI generovaného textu nemusí být zcela spolehlivá (Perkins, 2023), sám bych asi nebyl zcela šťastný z toho, když by mi byl AI text přisuzován. ostatně jsem si také dost jistý že přimět AI aby psala stejným stylem jako já, by mě stálo podobné úsilí, jako text napsat sám.

Je tedy i pro mě samotného velmi žádoucí, abych případné části textu vygenerované AI v textu řádně označil, ačkoliv ve výše zmiňovaném stanovisku explicitní požadavek AI text označovat schází. Právě o pohledech jednotlivých stakeholderů píše Burkhard (2023). Z pohledu studenstva přináší AI nástroje mnoho možností pro tvorbu kvalitnějších textů, zároveň zde ale vyvstává otázka dostupnosti těchto nástrojů a férovosti s ohledem na cenu některých placených AI nástrojů. Z pohledu učitelů přináší rozšíření AI nástrojů potřebu rozhodnout jaký k jejich použití studenty zastanou postoj, případně zda v reakci na ně přizpůsobí výuku a/nebo metody hodnocení. Z hlediska univerzitní administrativy je pak potřeba vypořádat se stejnými otázkami, před kterými stojí učitelé, ale na celouniverzitní úrovni. Na bedrech univerzitní administrativy take leží břemeno dohodnutí kompromisu mezi jednotlivými skupinami stakeholderů. Příkladem to pak může být pravdě již několikrát zmiňované stanovisko k využívání umělé inteligence ve výuce na Masarykově univerzitě.

Jedním ze zajímavých přístupů k psaní v době LLM je vytváření modelů pro efektivní akademické psaní, které se zaměřují právě na oblasti ve kterých AI nepomůže. Donna Poade & Russell M. Crawford (2024) představují iterativní sebereflektivní model pro akademické psaní, který na první pohled může připomínat některé agilní metody projektového managementu. Dokonce si myslím že našel-li bych ho dříve dost by mi to usnadnilo život. Což by vlastně nemělo být nijak překvapivé, jelikož celý model vznikal se silným ohledem na well-being. Možná je to pouze nějaká má osobní projekce, ale z textu na mě vystupuje jasná zpráva: “AI je k ničemu, používejte raději tohle”, což ale nejsou přesná slova autorů a nerad bych jim je tedy podsouval. Doslovně ale zmiňují, že AI není schopné popisovaný proces replikovat, navzdory tomu, že jej opakovaně nazývají algoritmem. Model autory nabádá k tomu, aby se na proces psaní dívali skrze několik filtrů a vytvořit si jasný plán pro tvorbu textu. V první řadě jde o ujasnění si účelu, co potřebuji napsat, a jaké jsou na text požadavky. Popsání procesu, nebo-li co vlastně budu dělat. Stanovení očekávaných výstupů, aneb co si od textu slibuji, to neznamená že pokud dělám výzkum tak si předem určím jeho výsledek. Kritéria úspěchu, věci a podmínky které potřebuji pro to, abych dokázal splnit to co jsem si stanovil. Celý proces je přitom, jak jsem již jednou zmínil iterativní, takže by měla následovat ještě reflexe všech předchozích kroků a další průchody celým procesem.

Tento článek ve mě evokuje především to, že samotné skládání slov do řady za sebe, tedy něco co AI zvládá již velmi obstojně, je jen malou součástí procesu tvorby akademických textů a to důležité je stále lidský vstup. Přestože to není stěžejní součástí modelu jako takového, nemohu ignorovat to, že autoři v článku opakovaně zmiňují důležitost jazyka a sebevyjádření, k čemuž mám jednu osobní poznámku. Ačkoliv jsem si již navykl při psaní aplikovat značnou dávku autocenzury, bylo by mi velmi milo mohl-li bych do seminárních prací sázet slovo po slově tak, jak se mi noří z mysli, namísto suchého a nudného akademického stylu psaní. Bohužel, navzdory tomu že je to jen málokdy uvedeno jako explicitní, formální kritérium hodnocení, stále vnímám, že se ode mě právě onen nudný akademický styl očekává. To pak vede k jisté frustraci z celého procesu a nebýt mého obecného odporu k AI, je dost možné že bych namísto seminárních prací začal psát už jen prompty pro LLM. Dovedu si ale představit, že bych po sobě mohl texty nechat od AI přepisovat tak, aby odstranila obscénní aliterace a jiné nežádoucí neduhy mých textů.

Pro úplnost by asi bylo vhodné zeptat se “Jaký má ChatGPT (n.d.) názor na používání AI v seminárních pracích”

TEXT GENEROVANÝ ChatGPT

ChatGPT, jako nástroj umělé inteligence, může mít různé názory a perspektivy na používání AI v seminárních pracích, které závisí na etických a pedagogických aspektech. Níže uvádím několik hlavních bodů, které by mohly být zohledněny při zvažování používání AI v akademickém psaní:

Výhody používání AI:

1. Pomoc při výzkumu: AI může pomoci studentům rychleji vyhledávat relevantní zdroje, shrnovat informace a identifikovat klíčové body.
2. Jazyková podpora: Pro studenty, kteří nejsou rodilými mluvčími, může AI pomoci s gramatikou, slovní zásobou a stylistikou, což vede k jasnější a profesionálnější práci.
3. Generování nápadů: AI může poskytnout inspiraci a nápady, které mohou studentům pomoci překonat tvůrčí blok a rozšířit jejich pohled na dané téma.

Nevýhody a rizika:

1. Etické otázky: Použití AI pro generování textu může být považováno za formu podvádění, pokud studenti prezentují práci AI jako svou vlastní bez řádného přiznání. To může podkopat akademickou integritu.
2. Ztráta dovedností: Spoléhání se na AI může vést k tomu, že studenti nebudou rozvíjet své vlastní dovednosti v oblasti výzkumu, psaní a kritického myšlení.
3. Kvalita a přesnost: AI nemusí vždy poskytovat přesné nebo kvalitní informace. Studenti by měli být opatrní a ověřovat fakta, která AI generuje.

Doporučení:

1. Transparentnost: Pokud studenti používají AI nástroje, měli by to jasně uvést a vysvětlit, jak byly tyto nástroje použity.
2. Doplňkové použití: AI by měla být používána jako doplňkový nástroj, nikoli jako náhrada za vlastní práci studenta.
3. Etické zásady: Studenti by měli dodržovat etické zásady a pokyny své instituce týkající se používání AI v akademickém prostředí.

Celkově je důležité, aby bylo používání AI v seminárních pracích pečlivě zváženo z hlediska etiky a pedagogiky. AI může být užitečným nástrojem, pokud je používána odpovědně a transparentně.

/TEXT GENEROVANÝ ChatGPT

ChatGPT je v této otázce, vcelku nepřekvapivě, ve shodě s literaturou. Na otázku “Jak používat ChatGPT při studiu a akademickém psaní” pak ve směs znovu odpovídá to samé co jsem se dočetl v literatuře případně sám zmínil. Jako hlavní oblasti ve kterých může pomoci identifikuje brainstorming a generování nápadů, jazykovou podporu, strukturování textu a korekturu. Dále také zmiňuje výzkumnou podporu, přesněji tvorbu souhrnů literatury a identifikaci zdrojů. To jsou sice oblasti o kterých v souvislosti s AI píše i Imran & Almusharraf (2023), osobně bych se toho ale raději prozatím vyvaroval. Co se konkrétních doporučení týče nabádá ke kladení jednoduchých otázek a postupnému upřesňování, což je přístup který jsem v počátcích AI boomu také zkoušel a nebyl z něj moc nadšený, musím ale dodat, že je pravděpodobné, že by má dnešní zkušenost byla jiná. Dále doporučuje kombinaci s dalšími zdroji a nástroji. V neposlední řadě pak výše vypsaná doporučení k transparentnosti a důrazu na vlastní práci studenta a dodržování etických zásad.

V závěru musím uznat, že ačkoliv je AI stále velmi trendy téma a velká část použitých zdrojů je z posledních tří let, mám pocit že otázka AI a seminárních prací, je již z velké části dořešená. Školní prostředí se s rapidním rozšířením AI potřebovalo nějak vyrovnat a to se i stalo. AI je nástroj stejně jako pero nebo psací stroj, jen těžko si ale dokážu představit, že by s vynálezem psacího stroje vyvstaly moralizující hlasy volající, že díky nim lide ztratí schopnost psát. Zároveň ale očekávám že s dalším rozvojem AI bude potřeba se k této otázce znovu vracet a je možné že někdy v daleké budoucnosti bude psaní opravdu odepsané a zůstane pouze zálibou několika málo nadšenců. Můj osobní postoj k AI se ale prozatím v mnohém nemění. Je možné že jsem v tomto ohledu přílišným staromilcem ale AI prostě není můj styl. Je pravda že my ChatGPT během několika vteřin vypsal prakticky to samé k čemu jsem se dopracoval po hodinách pročítání článků, na druhou stranu bych se mu byl zdráhal věřit, byl-li by mým jediným zdrojem.

Abych se alespoň pokusil zodpovědět na otázky které mi AI předhodila ve vygenerovaném úvodu, zopakuji ještě jednou co už jsem dříve uváděl v textu. Důležitý není text ale jeho obsah, pokud se mi povede přimět LLM aby napsal to co chci, je to skvělé, ale stále to vnímám jako jistý mezikrok, který vytváří separaci mezi mnou a případným čtenářem. Uznávám, že AI v roli pomocníka při psaní může být velmi mocným nástrojem, stále ale trvám na tom, že veškeré výstupy z AI musí být důkladně ověřeny. Co se využití pro akademické práce týče jsem velmi spokojený se stanoviskem MUNI, které by se dalo ve zkratce popsat jako obezřetná zvídavost. Vysoké standardy akademické práce by se ale podle mě neměli zachovávat, ale spíše neustále přizpůsobovat době což už je ale spíše otázka směřující k AI literacy.

Anson, C. M. (2022). AI-Based Text Generation and the Social Construction of “Fraudulent Authorship”: A Revisitation. Composition Studies, 50. https://eric.ed.gov/?q=AI+academic+writing&pr=on&ft=on&id=EJ1361686

Burkhard, M. (2023). HOW TO DEAL WITH AI-POWERED WRITING TOOLS IN ACADEMIC WRITING: A STAKEHOLDER ANALYSIS. https://eric.ed.gov/?q=AI+academic+writing&pr=on&ft=on&id=ED636597

ChatGPT. (n.d.). Retrieved June 12, 2024, from https://chatgpt.com

Donna Poade, & Russell M. Crawford. (2024). Trickle or Torrent? A Novel Algorithmic Approach to Reclaim Successful Academic Writing in the Face of Artificial Intelligence. Brock Education Journal, 33(1), 166–179. https://doi.org/10.26522/brocked.v33i1.1127

Imran, M., & Almusharraf, N. (2023). Analyzing the role of ChatGPT as a writing assistant at higher education level: A systematic review of the literature. Contemporary Educational Technology, 15(4), ep464. https://doi.org/10.30935/cedtech/13605

Masarykova univerzita. (2023). Stanovisko k využívání umělé inteligence ve výuce na Masarykově univerzitě. Masarykova univerzita. https://www.muni.cz/o-univerzite/uredni-deska/stanovisko-k-vyuzivani-ai

Perkins, M. (2023). Academic Integrity considerations of AI Large Language Models in the post-pandemic era: ChatGPT and beyond. Journal of University Teaching and Learning Practice, 20(2). https://doi.org/10.53761/1.20.02.07