Certyfikacja systemów AI to złożony proces, który obejmuje zarówno regulacje dotycząc AI, jak i regulacje branżowe. W szczególności rozporządzenie AI Act (EU 2024/1689) definiuje pojęcie systemów wysokiego ryzyka, dla których zostały określone dodatkowe wymagania. Dla tak złożonego procesu, zastosowanie assurance case daje możliwość efektywnego zarządzania rozwojem systemu dla jego certyfikacji. AI Act definiuje systemy wysokiego […]
Assurance case stosowany w systematyczny i profesjonalny sposób może być podstawowym narzędziem komunikacji w pracach zapewnienia bezpieczeństwa systemu, wczesnym wykrywaniu problemów i zagrożeń oraz podejmowaniu decyzji dotyczących bezpieczeństwa. Może być istotnym czynnikiem wpływającym na efektywność całego procesu rozwoju systemu. Ale gdy nie jest rozwijany we właściwy sposób, może stać się kosztowym i nikomu niepotrzebnym artefaktem. […]
Stosowanie narzędzi CI/CD jest coraz bardziej powszechne w rozwoju systemów krytycznych. Te same narzędzia mogą być też stosowane do automatyzacji tworzenia i utrzymania assurance case w zakresie struktury argumentacji i dowodów oraz weryfikacji i aktualizacji danych o statusie. Proces CI/CD a assurance case Zacznijmy od pojęcia procesów automatyzacji CI/CD (Continuous Integration i Continuous Delivery/Deployment) i […]
Argumentacja przez eliminację (Eliminative Argumentation) jest alternatywnym podejściem do budowy assurance case. Zwykle argumentacja jest budowa w sposób pozytywny i koncentruje się na zapewnieniu dlaczego uważamy, że cel został osiągnięty. Argumentacja przez eliminację polega na stałym zadaniu pytania „a jeżeli?”. Struktura argumentacji może być całkiem podobna do zwykłej argumentacji pozytywnej, ale chodzi tu o nastawienie […]
Assurance cases zazwyczaj opierają się na argumentach dotyczących bezpieczeństwa funkcjonalnego, aby wykazać, że awarie nie spowodują niebezpiecznych sytuacji. Jednak wypadki mogą mieć też inne przyczyny związane z zachowaniem systemu niż awarie. Właśnie tutaj pojawia się SOTIF. Skrót ten oznacza bezpieczeństwo zamierzonej funkcjonalności. Co to oznacza? Obejmuje on łagodzenie czynników ryzyja związanych z nieoczekiwanymi sytuacjami lub […]
Podczas pracy z argumentacjami assurance case użyteczny może być prosty tekstowy format ich opisu. Chodzi o to, aby taka tekstowa argumentacja była możliwa do zrozumienia dla człowieka oraz do stosowania z narzędziami AI, a jednocześnie formalnie zdefiniowana, aby można było takie argumentacje importować do edytorów assurance case. W takim właśnie celu wprowadzamy LTAC – Lightweight […]
Argumentacje zaufania (confidence argument) pomagają uzasadnić, że główne argumentacje w assurance case są skuteczne i wiarygodne. Podczas gdy argumentacja główna bezpośrednio odnosi się do bezpieczeństwa systemu, celem argumentacji zaufania jest odpowiedź na pytanie, dlaczego powinniśmy ufać, że argumentacja główny jest wiarygodna. Niektóre standardy i wytyczne, a także niektóre organizacje certyfikujące, wymagają wykazania wprost argumentacji zaufania, […]
Assurance case stosowane są nie tylko w fazie rozwoju systemu, ale też jego eksploatacji. Dla wielu systemów stosowane są wtedy wskaźniki bezpieczeństwa – Safety Performance Indicators (SPI). Wskaźniki te służą do monitorowania i oceny poziomu bezpieczeństwa systemu w czasie jego eksploatacji. Pomagają one określić, czy cele bezpieczeństwa są osiągane i dostarczają wczesnych sygnałów ostrzegawczych o […]
Silne argumentacje assurance case są tworzone poprzez budowanie zaufania do skuteczności poszczególnych kroków wnioskowania oraz demonstrowanie sposobu rozwiązania znanych słabości i błędów argumentacji. Te dwa podejścia reprezentują dwa różne kierunki argumentacji. Pierwszy koncentruje się na dostarczeniu solidnych podstaw argumentacji, a drugi na jej obronie przed znanymi słabościami i błędami. Które podejście jest skuteczniejsze i powinno […]
Assurance case to ustrukturyzowana argumentacja poparta dowodami. Może to być statyczny assurance case odnoszący się do statycznych dowodów i zamrożony w Raporcie Assurance Case. Może to być również dynamicznym obiektem odnoszącym się do dynamicznych dowodów, które mogą ewoluować. Na przykład dowody mogą obejmować wskaźniki wydajności bezpieczeństwa (SPI) oparte na pomiarach podczas działania systemu. Kluczowym pytaniem […]
Edycja argumentacji GSN w PREMIS jest teraz łatwiejsza, możesz przeciągać elementy z zasobnika wprost do diagramu. Jednocześnie poprawiona została wydajność diagramów GSN w nowej wersji PREMIS. Szczególnie generowanie diagramów jest teraz bardzo szybkie. Nowa wersja obejmuje też usprawnienia zarządzania oceniamiem, uprawnieniami i repozytoriami dowodów. PREMIS w wersji 1.7 został wydany 13 czerwca. Podstawowa różnica w […]
Zarówno standard GSN, jak i OMG SACM definiują modułowe argumentacje assurance case, choć z różnych perspektyw. Standard GSN koncentruje się na logicznych zależnościach między elementami w różnych modułach argumentów. SACM z kolei wprowadza koncepcje interfejsów i powiązań. W praktyce nie ma konfliktu między tymi dwoma standardami. Obie perspektywy są połączone w PREMIS. Dwa główne charakterystyczne […]