AI Security Engineer (f/m/x)

Szukamy AI Security Engineera do zespołu rozwijającego i wdrażającego rozwiązania AI w dużej organizacji z sektora finansowego. Rola łączy Offensive Security/Red Teaming z bezpieczeństwem rozwiązań GenAI/LLM. Poszukujemy osoby technicznej, która potrafi oceniać ryzyko, samodzielnie testować rozwiązania, automatyzować testy i budować narzędzia wspierające red teaming.

Zakres obowiązków

• Opiniowanie i ocena rozwiązań AI pod kątem bezpieczeństwa przed ich wdrożeniem.
• Prowadzenie testów bezpieczeństwa i red teamingu rozwiązań opartych na LLM.
• Identyfikowanie podatności i ryzyk związanych m.in. z prompt injection, jailbreakami, dostępem do danych, RAG i agentami AI.
• Przygotowywanie, wdrażanie i testowanie guardrails/safeguards.
• Automatyzacja procesów security testingu i budowa narzędzi wspierających red teaming.
• Rozwój wewnętrznych agentów AI wspierających testy bezpieczeństwa.
• Analiza bezpieczeństwa całego rozwiązania, w tym API, integracji, IAM/uprawnień, danych, mikroserwisów i infrastruktury.
• Zabezpieczanie rozwiązań AI działających w środowiskach cloud i on premises.
• Przeprowadzanie analiz i ocen ryzyka technicznego.
• Wspieranie zgodności rozwiązań z wymaganiami organizacji oraz regulacjami dotyczącymi AI i sektora finansowego.

Wymagania

• Minimum 5 lat doświadczenia w obszarze bezpieczeństwa IT, najlepiej w Penetration Testingu, Red Teamingu, Offensive Security, Application Security lub Security Engineering.
• Praktyczne, udokumentowane doświadczenie z bezpieczeństwem rozwiązań AI/LLM.
• Doświadczenie w testowaniu podatności i prowadzeniu red teamingu rozwiązań wykorzystujących LLM.
• Znajomość zagrożeń charakterystycznych dla GenAI/LLM, w tym prompt injection, jailbreak, data leakage oraz ryzyk związanych z RAG i agentami AI.
• Znajomość OWASP Top 10 for LLM/GenAI Applications oraz praktycznych metodyk testowania bezpieczeństwa AI.
• Praktyczna znajomość guardrails/safeguards.
• Umiejętność automatyzacji testów bezpieczeństwa i tworzenia narzędzi/skryptów w Pythonie. Nie jest wymagany poziom Python Developera, ale oczekiwane jest rozumienie tworzonego kodu i umiejętność świadomego wykorzystania go w testach.
• Znajomość bezpieczeństwa architektury mikroserwisowej, środowisk on premises i chmury publicznej, w szczególności Microsoft Azure.
• Umiejętność analizy ryzyka oraz projektowania zabezpieczeń dla całego rozwiązania AI.
• Znajomość wymagań regulacyjnych dotyczących AI w sektorze finansowym, w szczególności AI Act i DORA, oraz standardów ISO 27001 i ISO/IEC 42001.