{"id":1174,"date":"2024-12-06T19:06:48","date_gmt":"2024-12-06T18:06:48","guid":{"rendered":"https:\/\/kie.ue.poznan.pl\/pl\/?p=1174"},"modified":"2024-12-13T18:14:42","modified_gmt":"2024-12-13T17:14:42","slug":"odkrywanie-wyzwan-i-potencjalu-generatywnej-sztucznej-inteligencji","status":"publish","type":"post","link":"https:\/\/kie.ue.poznan.pl\/pl\/wiadomosci\/odkrywanie-wyzwan-i-potencjalu-generatywnej-sztucznej-inteligencji\/","title":{"rendered":"Odkrywanie wyzwa\u0144 i potencja\u0142u generatywnej sztucznej inteligencji"},"content":{"rendered":"

Artyku\u0142 naukowy naszych pracownik\u00f3w pt. „Exploring the Challenges and Potential of Generative AI: Insights from an Empirical Study”<\/a> zosta\u0142 opublikowany w otwartym dost\u0119pie. W ramach pracy przeprowadzono eksperyment maj\u0105cy na celu zbadanie, w jakim stopniu tre\u015bci generowane przez GenAI mog\u0105 by\u0107 uznane za wiarygodne (nie zawieraj\u0105ce fa\u0142szywych informacji) oraz jak \u0142atwo jest zmanipulowa\u0107 GenAI do produkcji fa\u0142szywych informacji.<\/p>\n

ChatGPT, narz\u0119dzie oparte na modelach generatywnej sztucznej inteligencji (tzw. GenAI), w zadziwiaj\u0105co kr\u00f3tkim czasie zyska\u0142o ogromn\u0105 popularno\u015b\u0107 \u2013 ju\u017c po tygodniu korzysta\u0142 z niego milion u\u017cytkownik\u00f3w, a po dw\u00f3ch miesi\u0105cach by\u0142o ich a\u017c 100 milion\u00f3w. Ta technologia nale\u017cy do rodziny tzw. du\u017cych modeli j\u0119zykowych (LLM), kt\u00f3re dzi\u0119ki dost\u0119powi do olbrzymich zbior\u00f3w danych tekstowych potrafi\u0105 generowa\u0107 wypowiedzi bardzo przypominaj\u0105ce to, w jaki spos\u00f3b ludzie naturalnie pos\u0142uguj\u0105 si\u0119 j\u0119zykiem. Coraz wi\u0119cej os\u00f3b zaczyna traktowa\u0107 takie narz\u0119dzia jako alternatyw\u0119 dla tradycyjnych wyszukiwarek internetowych w poszukiwaniu informacji.<\/p>\n

Podczas eksperymentu, opisanego w artykule, studenci otrzymali zadanie przygotowania esej\u00f3w w j\u0119zyku polskim, z zachowaniem okre\u015blonej d\u0142ugo\u015bci tekstu oraz wybranej tematyki. Kluczowym elementem by\u0142a jednak nie tylko sama tre\u015b\u0107 wygenerowana przez narz\u0119dzie GenAI, lecz tak\u017ce krytyczna analiza powsta\u0142ego tekstu. Studenci mieli oceni\u0107 wiarygodno\u015b\u0107 przedstawionych informacji, wychwyci\u0107 i skorygowa\u0107 ewentualne nie\u015bcis\u0142o\u015bci oraz wy\u0142apa\u0107 przyk\u0142ady wytworzonych przez model fa\u0142szywych informacji (fake news\u00f3w). Ponadto, te narz\u0119dzia poproszono r\u00f3wnie\u017c o wprowadzenie zupe\u0142nie wymy\u015blonych tre\u015bci, by sprawdzi\u0107, czy uczestnicy b\u0119d\u0105 w stanie rozpozna\u0107 i zweryfikowa\u0107 nieprawdziwe dane.<\/p>\n

Badania te mog\u0105 mie\u0107 istotne znaczenie w kontek\u015bcie coraz szerszego wykorzystywania generatywnej sztucznej inteligencji w edukacji, mediach i innych dziedzinach. Ich wyniki pozwalaj\u0105 lepiej zrozumie\u0107 mo\u017cliwo\u015bci i ograniczenia du\u017cych modeli j\u0119zykowych w zakresie weryfikacji fakt\u00f3w oraz wykrywania nieprawdziwych informacji. Jednym z najwi\u0119kszych wyzwa\u0144 jest tzw. \u201ehalucynacja\u201d modeli \u2013 spontaniczne generowanie b\u0142\u0119dnych lub wprowadzaj\u0105cych w b\u0142\u0105d tre\u015bci, co mo\u017ce prowadzi\u0107 do niezamierzonych konsekwencji, je\u015bli nie zostanie zidentyfikowane i skorygowane.<\/p>\n

Realizacja tego typu bada\u0144 ma kluczowe znaczenie dla przysz\u0142ego kszta\u0142tu edukacji informacyjnej oraz bezpiecze\u0144stwa informacyjnego. Pozwala nie tylko na pog\u0142\u0119bienie wiedzy na temat tego, jak ulepsza\u0107 i doskonali\u0107 narz\u0119dzia AI, ale tak\u017ce na opracowanie metod i standard\u00f3w, kt\u00f3re zapewni\u0105 u\u017cytkownikom mo\u017cliwo\u015b\u0107 sprawnego rozpoznawania fa\u0142szywych informacji. W tym kontek\u015bcie rozwijanie umiej\u0119tno\u015bci krytycznej analizy tre\u015bci generowanych przez sztuczn\u0105 inteligencj\u0119 jest krokiem w kierunku bardziej \u015bwiadomego i bezpiecznego korzystania z nowoczesnych technologii.<\/p>\n

Autorzy pracy: dr Milena Str\u00f3\u017cyna<\/a>, dr hab. Krzysztof W\u0119cel, prof. UEP<\/a>, dr Piotr Stolarski<\/a>, mgr Ewelina Ksi\u0119\u017cniak<\/a>, mgr Marcin Sawi\u0144ski<\/a>, dr W\u0142odzimierz Lewoniewski<\/a>, prof. dr hab. Witold Abramowicz<\/a>.<\/p>\n

Artyku\u0142 naukowy zosta\u0142 zaprezentowany podczas konferencji KES 2024<\/a>. Udzia\u0142 w konferencji by\u0142 mo\u017cliwy dzi\u0119ki dofinansowaniu z konkursu na finansowanie wyjazd\u00f3w konferencyjnych pn. \u201eIREG \u2013 konferencje\u201d. Dofinansowano ze \u015brodk\u00f3w Ministra Nauki przyznanych w ramach Programu \u201eRegionalna inicjatywa doskona\u0142o\u015bci\u201d na realizacj\u0119 projektu \u201eUniwersytet Ekonomiczny w Poznaniu dla Gospodarki 5.0: Inicjatywa regionalna \u2013 efekty globalne (IREG)\u201d.<\/p>\n

Katedra Informatyki Ekonomicznej realizuje obecnie projekt badawczy OpenFact<\/a>, kierowany przez prof. dr. hab. Witolda Abramowicza<\/a>. W ramach tego projektu opracowywane s\u0105 narz\u0119dzia do automatycznego wykrywania fake news w j\u0119zyku polskim. W lipcu 2024 roku wyniki projektu OpenFact drugi rok z rz\u0119du zosta\u0142y najwy\u017cej ocenione<\/a> przez NCBiR.<\/p>\n

Projekt OpenFact jest finansowany przez Narodowe Centrum Bada\u0144 i Rozwoju w ramach programu INFOSTRATEG I \u201eZaawansowane technologie informacyjne, telekomunikacyjne i mechatroniczne\u201d.<\/p>\n","protected":false},"excerpt":{"rendered":"

Artyku\u0142 naukowy naszych pracownik\u00f3w pt. „Exploring the Challenges and Potential of Generative AI: Insights from an Empirical Study” zosta\u0142 opublikowany w otwartym dost\u0119pie. W ramach pracy przeprowadzono eksperyment maj\u0105cy na celu zbadanie, w jakim stopniu tre\u015bci generowane przez GenAI mog\u0105 by\u0107 uznane za wiarygodne (nie zawieraj\u0105ce fa\u0142szywych informacji) oraz jak \u0142atwo jest zmanipulowa\u0107 GenAI do produkcji fa\u0142szywych informacji.<\/p>\n","protected":false},"author":1,"featured_media":1175,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[230,223,290,7,231,26,224,18,21,6],"class_list":["post-1174","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-wiadomosci","tag-ewelina-ksiezniak","tag-fake-news","tag-generatywna-sztuczna-inteligencja","tag-krzysztof-wecel","tag-marcin-sawinski","tag-milena-strozyna","tag-openfact","tag-piotr-stolarski","tag-witold-abramowicz","tag-wlodzimierz-lewoniewski"],"_links":{"self":[{"href":"https:\/\/kie.ue.poznan.pl\/pl\/wp-json\/wp\/v2\/posts\/1174","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/kie.ue.poznan.pl\/pl\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/kie.ue.poznan.pl\/pl\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/kie.ue.poznan.pl\/pl\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/kie.ue.poznan.pl\/pl\/wp-json\/wp\/v2\/comments?post=1174"}],"version-history":[{"count":0,"href":"https:\/\/kie.ue.poznan.pl\/pl\/wp-json\/wp\/v2\/posts\/1174\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/kie.ue.poznan.pl\/pl\/wp-json\/wp\/v2\/media\/1175"}],"wp:attachment":[{"href":"https:\/\/kie.ue.poznan.pl\/pl\/wp-json\/wp\/v2\/media?parent=1174"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/kie.ue.poznan.pl\/pl\/wp-json\/wp\/v2\/categories?post=1174"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/kie.ue.poznan.pl\/pl\/wp-json\/wp\/v2\/tags?post=1174"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}