Pod żadnym pozorem nie zlecaj tego AI. Inaczej prosisz się o kłopoty

Mieliśmy ostatnio dwa głośne przypadki, w których firmy same pozbawiły się zarobku za pomocą sztucznej inteligencji

Przedsiębiorstwa na całym świecie bardzo chętnie chwalą się swoimi planami implementacji rozwiązań związanych ze sztuczną inteligencją. Z ich faktyczną realizacją bywa różnie. Czysto marketingowa chęć podpięcia się pod aktualną biznesową modę albo przerzucenie na AI prostszych zadań, by zaoszczędzić na kosztach pracy to nie problem. Czymś zupełnie innym jest jednak postawienie przed sztuczną inteligencją prawdziwego wyzwania, od którego powodzenia zależą duże pieniądze.

Boleśnie przekonały się o tym te firmy, które zdecydowały się na generowanie dokumentów przez AI. Warto dodać: nie byle jakich dokumentów, bo ściśle związanych z ważnymi przetargami. W ostatnim czasie głośno zrobiło się o dwóch interesujących przypadkach.

Niedawno cały świat śmiał się z australijskiego rządu i tamtejszego oddziału korporacji Deloitte, która świadczy usługi doradcze i audytorskie. Departament Zatrudnienia i Relacji Pracowniczych (DEWR) w australijskim rządzie potrzebował specjalnego systemu do automatycznego nakładania kar w systemie pomocy społecznej. Chodziło konkretnie o bezrobotnych, którzy nie wywiązywaliby się ze swoich zobowiązań. DEWR zlecił więc Deloitte przegląd obowiązujących ram prawnych oraz systemu IT.

Co zrobiło Deloitte? Postawiło na generowanie dokumentów przez AI. Niestety sztuczna inteligencja musiała poprawnie przeanalizować i zastosować w praktyce konkretny wycinek australijskiego prawa. Nie jest to proste zadanie nawet dla żywego człowieka, który posiada specjalistyczną wiedzę prawniczą. Nic więc dziwnego, że raport stworzony z udziałem AI zawierał mnóstwo błędów, przekłamań i przypisów prowadzących do nieistniejących przepisów.

Sprawa się wydała, Deloitte musiało zwrócić australijskiemu rządowi część z kwoty 440 tys. dolarów, którą ten zapłacił za przygotowanie raportu. Na początku października pisała o tym prasa na całym świecie, więc można śmiało zaryzykować stwierdzenie, że korporacja najadła się też wstydu.

Generowanie dokumentów przez AI to ogromne ryzyko przy problemach tej technologii z prawdomównością

Podobny przypadek mieliśmy bardzo niedawno w Polsce. Należy wspomnieć, że opiewał na dużo wyższą kwotę, niż wpadka australijskiego Deloitte. Firma Exdrog próbowała wygrać przetarg na utrzymanie małopolskich dróg. Całkiem nieźle jej poszło, bo zaproponowała wyjątkowo niską cenę: 15,5 mln zł. Jak wiadomo, zamówienia publiczne w naszym kraju zazwyczaj wygrywa się właśnie dzięki możliwie niskiej cenie. Tym razem jednak mieliśmy najwyraźniej do czynienia z ofertą zbyt piękną, by była prawdziwa.

Zarząd Dróg Wojewódzkich w Krakowie zaczął coś podejrzewać, bo poprosił Exdrog o wyjaśnienia. Otrzymał szczegółowe pismo o długości 280 stron. Tym razem podejrzliwi okazali się konkurenci, bo wykazali bez cienia wątpliwości, że dokument przygotowała sztuczna inteligencja. Po czym to poznali? To bardzo proste: AI zmyślało na potęgę. Przede wszystkim powoływało się na nieistniejące interpretacje podatkowe. Finał historii był taki, że Exdrog został wykluczony z przetargu. Co ciekawe: to prawdopodobnie pierwszy przypadek w Europie, gdy firma straciła przetarg przez błędne wykorzystanie AI.

Ze znalezieniem cechy wspólnej obydwu przypadków sztuczna inteligencja już by sobie poradziła. Na wszelki wypadek sprawdziłem. Nie da się natomiast ukryć, że obecne na rynku modele AI bardzo słabo sobie radzą ze stosowaniem konkretnych przepisów prawa w praktyce. Kiedy zaś nie są w stanie z czymś sobie poradzić, to stara się zadowolić swojego użytkownika poprzez wygenerowania nieistniejących przepisów, które pasują do zapytania. Mogą to być australijskie kazusy, polskie interpretacje podatkowe, czy nawet przepisy najważniejszych kodeksów.

Generowanie dokumentów przez AI może się sprawdzić w prostych przypadkach. Stworzy osobie fizycznej CV, firmie pomoże uporządkować statystykę. Jest także w stanie napisać za nas maila, na którym nam jakoś specjalnie nie zależy. Eksperci radzą jednak, by pod żadnym pozorem nie powierzać sztucznej inteligencji tworzenia treści umów z klientami i kontrahentami, dokumentacji technicznej oraz składanych przez nas ofert. Odradzałbym także angażowanie AI do spraw, w których kontaktujemy się z organami podatkowymi albo innymi organami państwa, które mogą nas w jakiś sposób ukarać.

Jeżeli już musimy wspomagać się sztuczną inteligencją przy pisaniu ważnych firmowych dokumentów, to powinniśmy trzymać się podstawowej zasady bezpieczeństwa. Weryfikacja twórczości AI przez człowieka znającego się na danym zagadnieniu jest absolutnie niezbędna. Dlatego wydaje się, że nie należy wykorzystywać tej technologii do tworzenia pism i dokumentów, których jeden człowiek nie jest w stanie przeczytać i poprawić w ciągu godziny.

Obserwuj nas w Google Discover

Podobają Ci się nasze treści?

Google Discover

Obserwuj