encyklopedia.space

Explainable AI (XAI) – wyjaśnialna sztuczna inteligencja

Explainable AI (ang. explainable artificial intelligence), zwane także XAI, to dziedzina sztucznej inteligencji oraz uczenia maszynowego, której celem jest opracowanie modeli i metod pozwalających na zrozumienie i interpretację decyzji podejmowanych przez systemy oparte na deep learning i innych technikach wnioskowania maszynowego.

Definicja

W kontekście XAI modelzy są uznawane za wyjaśnialne, gdy spełniają następujące kryteria:

  • Transparentność – struktura i działanie modelu są zrozumiałe dla ludzi.
  • Interpretowalność – wyniki i decyzje modelu można wyjaśnić w prostych, intuicyjnych pojęciach.
  • Uzupełnialność – możliwość dostarczenia dodatkowych informacji (np. wagi cech, przykłady kontrfaktyczne) pomagających użytkownikowi zweryfikować wynik.

Historia

Pierwsze prace nad wyjaśnialnością systemów ekspertowych powstały w latach 1970-1980. Współczesny rozwój XAI rozpoczął się jednak w 2010 roku, kiedy to DARPA uruchomiła program Explainable Artificial Intelligence (XAI), mający na celu stworzenie metod umożliwiających użytkownikom zrozumienie działania modeli opartych na głębokich sieciach neuronowych.

Metody wyjaśnialne

Metody XAI można podzielić na dwie główne grupy:

  • Model‑agnosticzne – techniki, które mogą być zastosowane do dowolnego modelu, np.:
    • LIME (Local Interpretable Model‑agnostic Explanations)
    • SHAP (SHapley Additive exPlanations)
    • Metoda kontrfaktyczna (Counterfactual explanations)
  • Model‑specyficzne – rozwiązania projektowane z myślą o konkretnej architekturze, np.:

Zastosowania

Wyjaśnialna AI znajduje zastosowanie w wielu dziedzinach, w których wymagana jest wysoka etyka i zgodność z prawem:

  • Opieka zdrowotna – wsparcie lekarzy w diagnozowaniu chorób przy jednoczesnym udzielaniu zrozumiałych wyjaśnień co do podstaw decyzji algorytmu.
  • Finanse – ocena ryzyka kredytowego, w której klienci i regulatorzy mogą sprawdzić przyczyny odrzucenia wniosku.
  • Bezpieczeństwo i wojsko – systemy autonomiczne wymagają udostępnienia operatorom jasnych powodów podjęcia określonych działań.
  • Prawo i wymiar sprawiedliwości – decyzje algorytmiczne w procesach sądowych muszą być transparentne, aby zapewnić rzetelny proces.
  • Transport – autonomiczne pojazdy muszą wyjaśniać, dlaczego podjęły określoną manewrację w sytuacjach krytycznych.

Wyzwania i ograniczenia

Pomimo postępów, XAI napotyka na szereg trudności:

  • Kompleksowość modeli – bardzo duże sieci neuronowe mogą wymagać uproszczeń, które nie oddają pełnego obrazu ich działania.
  • Zbalansowanie dokładności i interpretowalności – bardziej wyjaśnialne modele są często mniej precyzyjne.
  • Subiektywność wyjaśnień – to, co jest zrozumiałe dla jednego użytkownika, może być niejasne dla innego.
  • Ryzyko manipulacji – generowane wyjaśnienia mogą być fałszywe (tzw. explainability hacking).
  • Standardy i regulacje – brak jednolitych miar oceny jakości wyjaśnień utrudnia ich porównywanie.

Powiązane pojęcia

W ramach encyklopedii można również zapoznać się z następującymi artykułami:

Literatura

Główne pozycje i publikacje, które przyczyniły się do rozwoju XAI:

  • Ribeiro, M. T., Singh, S., & Guestrin, C. (2016). “Why Should I Trust You?” Explaining the Predictions of Any Classifier. Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining.
  • Doshi‑Velez, F., & Kim, B. (2017). Towards a Rigorous Science of Interpretable Machine Learning. arXiv preprint arXiv:1702.08608.
  • Guidotti, R., et al. (2018). A Survey of Methods for Explaining Black Box Models. ACM Computing Surveys, 51(5), 93.
  • Gunning, D., & Aha, D. (2019). DARPA’s Explainable Artificial Intelligence (XAI) Program. AI Magazine, 40(2), 44–58.

Explainable AI stanowi kluczowy element budowania zaufania do systemów AI w społeczeństwie, łącząc postępy techniczne z wymogami etycznymi, prawnymi i praktycznymi.