Modele sztucznej inteligencji wykazały ogromne możliwości w różnych branżach, w tym w rozwoju oprogramowania i badaniach z zakresu bezpieczeństwa. Jednakże, bezkrytyczne wykorzystanie tych narzędzi uczenia maszynowego może prowadzić do poważnych problemów. Daniel Stenberg, założyciel projektów o otwartym kodzie źródłowym curl i libcurl, niedawno podkreślił problem generowania przez sztuczną inteligencję trudnych do przetworzenia raportów w badaniach z zakresu bezpieczeństwa.
Projekt curl oferuje program nagród za znalezienie i zgłoszenie podatności dla badaczy z zakresu bezpieczeństwa. Choć narzędzia sztucznej inteligencji pomogły przyspieszyć proces wyszukiwania błędów i tworzenia raportów, nadal niezbędna jest ocena człowieka w celu zbadania tych raportów. Niestety, generowane przez sztuczną inteligencję raporty często wydają się wiarygodne, ale brakuje im dokładności, co prowadzi do marnowania czasu i energii dla programistów.
Stenberg podkreśla, że sztuczna inteligencja produkuje „lepsze bzdury” – raporty, które wydają się szczegółowe i czytelne, ale oferują niewiele treści. Przytacza przykłady fałszywych raportów o bezpieczeństwie zgłoszonych społecznościom zajmującym się zgłaszaniem podatności, które opierały się albo na starych zagadnieniach związanych z bezpieczeństwem, albo były całkowicie zmyślone. Stenberg podejrzewa, że nawet sam mógł mieć do czynienia z modelem sztucznej inteligencji, próbując zweryfikować jeden z tych raportów.
Podkreślając rzeczywiste korzyści wynikające z pomocy sztucznej inteligencji, Stenberg twierdzi, że obecność ludzi w całym procesie jest niezbędna do poprawy skuteczności narzędzi sztucznej inteligencji. Łatwość i przydatność tych narzędzi, w połączeniu z motywacją finansową wynikającą z programów nagród za znalezienie błędów, może prowadzić do wzrostu raportów o niskiej jakości generowanych przez sztuczną inteligencję, co w rezultacie utrudnia rozwój badań z zakresu bezpieczeństwa.
Feross Aboukhadijeh, dyrektor generalny Socket, firmy zajmującej się bezpieczeństwem, podziela podobne obserwacje. Podkreśla on, że ocena dokonywana przez człowieka jest istotna w celu zmniejszenia fałszywie pozytywnych wyników przy użyciu modeli sztucznej inteligencji do wykrywania podatnych pakietów o otwartym kodzie źródłowym.
Znalezienie odpowiedniej równowagi między efektywnością a dokładnością jest kluczowe w wykorzystaniu sztucznej inteligencji w badaniach z zakresu bezpieczeństwa. Choć sztuczna inteligencja bez wątpienia może pomóc w identyfikowaniu podatności, nadzór człowieka jest niezbędny, aby zapewnić wiarygodność i rzetelność tych wyników. Poprzez połączenie silnych stron zarówno ludzkiej, jak i sztucznej inteligencji, badania z zakresu bezpieczeństwa mogą być bardziej skuteczne i znaczące, chroniąc systemy cyfrowe i użytkowników przed potencjalnymi zagrożeniami.
The source of the article is from the blog qhubo.com.ni