Na Amazonie sprzedaje się książki o ADHD wygenerowane przez AI? Eksperci ostrzegają, że publikacje mogą zawierać nieprawdziwe informacje.
- AI od jakiegoś czasu jest zagrożeniem w branży wydawniczej.
- Tym razem przebadano osiem książek o ADHD, jakie trafiły na platformę Amazona
- Wykazano, że wszystkie zostały wygenerowane przez sztuczną inteligencję.
- Eksperci ostrzegają, że tego typu publikacje mogą szerzyć dezinformacje na dany temat i być niezwykle niebezpieczne.
Osiem książek poddanych badaniom
Originality.ai to amerykańska firma, która zajmuje się między innymi wykrywaniem treści tworzonych przez sztuczną inteligencję. Przebadali oni osiem książek, które dotyczyły ADHD i znajdowały się na platformie Amazona. Okazało się, że każdy ze zbadanych tytułów najpewniej został wygenerowany przez AI.
Przeczytaj także: Katastrofy w literaturze
Systemy badające publikacje wykazały, że w 100% książki zostały napisane przez chatbota. Jak zauważają eksperci, obecnie nie ma wystarczających regulacji prawnych dotyczących prac tworzonych przez AI i wrzucanych do internetu. Książki generowane przez AI nie muszą być w żaden sposób oznaczone, a prawo autorskie obowiązuje tylko wtedy, gdy jakaś treść zostanie powielona. Rzecznik Amazona stwierdził natomiast:
Mamy wytyczne dotyczące treści, które regulują, jakie książki mogą być wystawione na sprzedaż, i mamy proaktywne i reaktywne metody, które pomagają nam wykrywać treści naruszające nasze wytyczne, niezależnie od tego, czy są generowane przez sztuczną inteligencję, czy nie. Inwestujemy znaczną ilość czasu i zasobów, aby wyegzekwować przestrzeganie naszych wytycznych i usuwać książki, które nie są zgodne z tymi wytycznymi.
Książki siejące dezinformację?
Od jakiegoś czasu platformy sprzedażowe, na których każdy może wstawić swoje dzieła, mają poważny problem z twórczością tworzoną przez sztuczną inteligencję. Warto również dodać, że model biznesowy Amazona nie neguje tego typu praktyk. Firma ma zyski od każdej książki, niezależnie od tego, czy została ona napisana przez człowieka, czy wygenerowana przez AI.
Przeczytaj także: Wywiad z Anną Robak-Reczek – o „Melafirach”, Klątwie Ondyny i pisaniu jako sposobie na poznanie świata
Profesor Shannon Vallor, dyrektor Centrum Technomoralnej Przyszłości Uniwersytetu Edynburskiego zauważyła, że Amazon nie powinien świadomie działać na szkodę swoich klientów i społeczeństwa, a równocześnie absurdalne byłoby obarczanie księgarni pełną odpowiedzialnością, za treści zamieszczanych na platformie książek.
Przeczytaj także: Oto najlepsze książki na wiosnę 2025!
Na rynku Amazona są więc dostępne książki skupiające się na ADHD. Poradniki mają rzekomo, w fachowy sposób pomagać i dawać przydatne rady. Jednak eksperci zauważają, że publikacje mogły zostać wygenerowane przez chatboty, takie jak między innymi ChatGPT. Aktualnie niezwykle łatwo tworzyć tego typu "dzieła", równocześnie mogą one siać dezinformacje.
Michael Cook to badacz informatyki, który słusznie zwrócił uwagę na to, że chatboty oparte na systemie generatywnej sztucznej inteligencji, mogą udzielać niebezpiecznych porad dotyczących zdrowia. Zauważył on, że:
Frustrujące i przygnębiające jest obserwowanie, jak na cyfrowych rynkach pojawia się coraz więcej książek napisanych przez sztuczną inteligencję, szczególnie na tematy związane ze zdrowiem i medycyną, co może skutkować błędną diagnozą lub pogorszeniem się stanu zdrowia.
Generatywne systemy sztucznej inteligencji nie powinny stanowić pewnego źródła informacji, zwłaszcza na tematy niebezpiecznie, trudne, czy wrażliwe. Narzędzia te nie są w stanie krytycznie analizować informacji.
Przeczytaj także:
źródło: theguardian.com
Tagi: literatura, sztuczna inteligencja, aktualności literackie,
