LLM Security Scanner
Otwarty skaner przeznaczony do testowania chatbotów i interfejsów opartych na modelach językowych.
Co rozwiązuje LLM Security Scanner?
Otwarty skaner przeznaczony do testowania chatbotów i interfejsów opartych na modelach językowych. Wysyła ponad pięćdziesiąt scenariuszy ataków, w tym próby przejęcia instrukcji, ujawnienia promptu systemowego i inne zagrożenia opisane przez OWASP. Może działać z terminala lub w procesie CI, więc kontrola trafia wprost do pracy zespołu.
Testy odwołują się do OWASP LLM Top 10 i obejmują między innymi prompt injection, próby wydobycia instrukcji oraz niepożądane ujawnianie danych. Lokalny mechanizm oceny klasyfikuje odpowiedzi i buduje wynik ryzyka. Projekt można podłączyć do własnego API oraz uruchamiać automatycznie przy kolejnych wdrożeniach.
Tworzysz LLM Security Scanner? Przejmij ten wpis.
Zweryfikujemy to automatycznie — pokaż, że kontrolujesz domenę produktu, w dowolny z tych sposobów, i kliknij przycisk:
- dodaj na stronie produktu ten meta-tag (w sekcji
<head>) albo - dodaj w DNS domeny rekord TXT o treści
pinly=twoje-id
Logujesz się e-mailem w domenie produktu? Wpis przejmiesz od razu, bez dodatkowych kroków.
<a href="https://www.pinly.dev/projekt/llm-security-scanner" target="_blank" rel="noopener"> <img src="https://www.pinly.dev/badge/llm-security-scanner" alt="LLM Security Scanner w Pinly" width="240" height="54" /> </a>
Komentarze
Dołącz do dyskusji — konto jest darmowe i nie musisz mieć własnego projektu.
Wczytuję komentarze…