Regrese k průměru: Jak LLM ovlivňují kreativitu
Článek upozorňuje na riziko, že velké jazykové modely mohou u kreativní práce posilovat průměrné a očekávané odpovědi místo skutečně nových nápadů.
V poslední době se stále víc řeší, jak velké jazykové modely ovlivňují kreativitu a způsob přemýšlení. Článek pracuje s myšlenkou, že LLM mohou uživatele nenápadně vracet k průměru: k tomu, co je známé, pravděpodobné a očekávané.
Základní argument vychází z toho, jak jazykové modely generují text. Model hledá pravděpodobné pokračování na základě vzorů, které už viděl v trénovacích datech. To je užitečné u mnoha běžných úloh, ale u kreativní práce to může mít vedlejší efekt: nové nebo neobvyklé nápady se mohou snadno posouvat zpět ke známým formulacím, konsensu a bezpečnějším odpovědím.
Článek to rámuje jako regresi k průměru. Když se na modely opakovaně obracíme pro návrhy, úpravy a další otázky, mohou postupně zužovat prostor možností. Místo větší rozmanitosti pak vzniká víc textů, které jsou srozumitelné, uhlazené a pravděpodobné, ale méně odlišné.
Důležitá je i historická paralela. Mnoho zásadních objevů bylo ve své době mimo očekávaný rámec. Myšlenky jako pohyb Země, neviditelné bakterie nebo drift kontinentů zpočátku neodpovídaly dobovému konsensu. Právě odchylka od průměru ale často umožnila skutečný posun.
To neznamená, že LLM automaticky ničí kreativitu. Spíš jde o upozornění, že nástroj trénovaný na predikci očekávaného nemusí být ideální jako první zdroj originálních nápadů. Pokud ho používáme hlavně k uhlazování a potvrzování myšlenek, může posilovat to, co už je běžné.
Článek je zajímavý jako varování: u kreativní práce může být důležité používat LLM spíš jako sparring partnera než jako autoritu. Hodnota nemusí být v první průměrné odpovědi, ale v tom, jestli model dokážeme použít k hledání odchylek, alternativ a méně samozřejmých směrů.