Po pierwsze, narzędzia zbudowane na LLM są narzędziami mało wiarygodnymi. Wynika to z prostego powodu, że są oparte o wielkie modele językowe (ang. Large Language Models, LLM), czyli modele zbudowane na zasobach tekstowych, głównie pochodzących z Internetu, a odpowiedzi, które generują, są odpowiedziami statystycznymi, a nie merytorycznymi. Choć sprawiają taki pozór, szczególnie kiedy pytamy o proste, powszechnie wiadome sprawy, to im głębiej sięgamy, tym większe jest ryzyko, że dostaniemy błędną odpowiedź.
Po drugie, narzędzia te jako pochodne modeli statystycznych używają języka nie w oparciu o niuanse czy szczególne cechy, ale przeciwnie, o te powtarzalne, najczęściej używane, a stąd już blisko do stereotypowych, zbanalizowanych znaczeń. Mnie nie zależy na tym, żeby kolejny raz powiedzieć coś tak samo lub podobnie do kolejnego podobnego, ale by tekst, z którym pracuję miał niepowtarzalne brzmienie i znaczenie.
Po trzecie, redaktor, który używa tych narzędzi traci kontakt ze swoim warsztatem, umiejętnościami, wyczuciem. Dzieje się tak z prostego powodu, że zawierzając maszynie, przestajemy używać swoich kompetencji, a te – podobnie jak mięśnie, gdy leżymy odłogiem – zanikają. Jeśli używasz kalkulatora, coraz słabiej liczysz w pamięci. Jeżeli używasz nawigacji, coraz słabiej się orientujesz w terenie. Jeżeli trzymasz numery telefonów w pamięci urządzenia, sam ich nie pamiętasz. To jest dokładnie ten mechanizm.
Po czwarte, choć nie ma ten temat badań wśród redaktorów, są już wśród studentów piszących prace naukowe – praca z tymi narzędziami niszczy połączenia neuronalne w mózgu, co jeśli chwilę się zastanowić, jest doskonałym powodem, dla którego narzędzia te powinny być zabronione (jak twarde narkotyki) lub limitowane (jak alkohol). Ale tak nie jest, przeciwnie jesteśmy przekonywani, że dzięki temu będziemy pracować szybciej, wydajniej, efektywniej. Kolejny problem jest taki, że badania te pokazują również, że szkody dotyczą również tego, jakie mamy później możliwości pracy z tekstem – jest o wiele trudniej, jeśli w ogóle możliwe, z zadawaniem pytań, wyciąganiem wniosków, konstruowaniem hipotez. Na co komu redaktor merytoryczny, który tego nie potrafi?
Po piąte, modele LLM w przeważającej większości powstały z naruszeniem prawa autorskiego lub na granicy tego prawa z naruszeniem dobrych obyczajów. Uznanie, że dzieło należy do jego twórcy, i że bez zapytania go o zgodę, nie można utworów używać do swoich celów, szczególnie sprzecznych z intencją twórcy, jest fundamentem porządku, w jakim do tej pory pracowałam. Wypada zapytać zanim się weźmie coś cudzego, prawda? A LLM nie pytają, co więcej wylobbowano zmianę w prawie autorskim, która uznaje to za legalne, o ile twórca nie zastrzeże inaczej.
Po szóste, używanie tych narzędzi generuje dramatycznie wysokie koszty środowiskowe, o czym mówi się bardzo mało, szczególnie właściciele modeli LLM nie chcą o tym mówić. Chodzi zarówno o energię, jak i wodę, dwa cenne zasoby, których użytkowane na rzecz zasilania i chłodzenia systemów obsługujących AI nakręca problemy emisji CO2 oraz suszy. W mojej ocenie koszty przeważają tu nad „postępem”.
Po siódme, lubię swoją pracę. Dlaczego miałabym ją powierzyć modelowi statystycznemu?
Po ósme, codziennie biorę za nią odpowiedzialność. Kto będzie odpowiedzialny za błędy wygenerowane przez AI? No właśnie.
