Fałszywe przypisy i „halucynacje” AI
Autor skargi, skierowanej do państwowej Komisji ds. Nadużyć w Badaniach Naukowych (NPOF), wskazał na sześć przypisów w książce, które odsyłają do nieistniejących źródeł. Według zgłoszenia, fragmenty te miały zostać „sfabrykowane” przez sztuczną inteligencję, która – jak wiadomo – potrafi generować wiarygodnie brzmiące, lecz nieprawdziwe informacje, tzw. halucynacje AI.
Wyjaśnienia profesor Dignum
W rozmowie z dziennikiem „Dagens Nyheter” prof. Virginia Dignum tłumaczyła, że błędy pojawiły się podczas korzystania z programu Latex, służącego do sortowania przypisów.
Listy biograficzne nie zostały wymyślone przez sztuczną inteligencję, ale nieprawidłowo przekonwertowane – zapewnia badaczka. Dignum przyznaje jednak, że korzystała z narzędzi takich jak ChatGPT, Claude czy Gemini, aby poprawić język angielski w swojej książce. Czasami pytałam, czy zdanie jest wystarczająco jasne - dodaje.
Zapytana o zakres poprawek dokonanych przez AI, profesor Dignum ocenia, że mogło to być „po kilka zdań w każdym rozdziale”, maksymalnie 10 procent całości, choć – jak sama przyznaje – nie prowadziła dokładnych wyliczeń.
Etyka pod lupą
Autor skargi podkreśla, że osoba zajmująca się etyką AI powinna wykazywać się szczególną ostrożnością przy korzystaniu z nowoczesnych narzędzi edytorskich. Tym bardziej, że Dignum jest nie tylko profesorem i szefową AI Policy LAB na Uniwersytecie w Umea, ale także doradczynią wielu instytucji publicznych i firm oraz prelegentką na międzynarodowych konferencjach - w tym w Watykanie.
Komisja bada sprawę
Sekretarz NPOF, Jonas Jeppson, odmówił komentarza na temat toczącego się postępowania, ale przyznał, że liczba przypadków nieprawidłowości związanych z przypisami w publikacjach naukowych rośnie.
Sprawa profesor Dignum może stać się precedensem w dyskusji o granicach wykorzystania AI w nauce i o tym, jak powinna wyglądać odpowiedzialność naukowców w erze sztucznej inteligencji.