Archiwiści alarmują. Badacze pytają o książki wymyślone przez AI |
Bibliotekarze i archiwiści coraz częściej otrzymują zapytania o publikacje, które nigdy nie istniały. Chodzi o książki, czasopisma i repozytoria naukowe wygenerowane przez narzędzia sztucznej inteligencji, a następnie bezrefleksyjnie traktowane przez użytkowników jako realne źródła. Problem narasta na tyle szybko, że głos w tej sprawie zabrał oficjalnie Międzynarodowy Komitet Czerwonego Krzyża (ICRC), zarządzający jednymi z najczęściej wykorzystywanych archiwów humanitarnych na świecie.
Jak podkreśla ICRC, popularne chatboty generatywne - w tym OpenAI (ChatGPT), Google (Gemini) czy Microsoft (Copilot) - potrafią tworzyć całkowicie fikcyjne opisy książek, artykułów naukowych oraz zespołów archiwalnych. Często brzmią one wiarygodnie, mają „akademickie” tytuły i przypisane numery katalogowe, ale nie mają żadnego oparcia w rzeczywistych zbiorach.
W praktyce oznacza to, że bibliotekarze coraz częściej tracą czas na poszukiwanie publikacji, które nigdy nie zostały wydane. Zjawisko to dotyczy zarówno rzekomych czasopism naukowych, jak i unikatowych materiałów archiwalnych, których istnienia nie da się łatwo zweryfikować. Jak zauważają archiwiści, udowodnienie, że dana książka lub dokument nie istnieje, bywa znacznie trudniejsze niż jego odnalezienie.
„Jeśli otrzymałeś odniesienie archiwalne lub opis dokumentu od chatbota AI, pamiętaj, że może to być niedokładne” - apeluje ICRC.
ICRC zwraca uwagę na mechanizm stojący za tym problemem. Narzędzia generatywnej AI nie prowadzą badań ani nie sprawdzają katalogów bibliotecznych. Ich zadaniem jest wygenerowanie odpowiedzi za wszelką cenę - nawet wtedy, gdy źródła historyczne są niepełne lub milczą. W efekcie systemy te „wypełniają luki” treściami pozornie logicznymi, ale całkowicie zmyślonymi.
Lubisz czytać nasze historie?
Na historia.org.pl codziennie opowiadamy dzieje Polski i świata tak, jak na to zasługują - rzetelnie, pasjonująco, z szacunkiem do faktów. Ale żadna opowieść nie przetrwa bez tych, którzy chcą jej słuchać i ją wspierać.
Postaw nam wirtualną kawę - to darowizna, która realnie pomaga nam działać dalej. To dzięki takim gestom możemy nadal pisać o zwycięstwach, bohaterach i wydarzeniach, które zbudowały naszą tożsamość.
Znajdujące się w portalu artykuły nie zawsze prezentują opinie zgodne ze stanowiskiem całej redakcji. Zachęcamy do dyskusji nad treścią przeczytanych artykułów, by to zrobić wystarczy podać swój nick i wysłać komentarz. O naszych artykułach możesz także porozmawiać na naszym forum. Możesz także napisać własny artykuł i wysłać go na adres naszej redakcji.
