Jak niewidzialne znaki w Unicode, mogą prowadzić do wycieku danych?

Rozwój w Biały Dzień · Oct 16, 2024 · 19m

Czy wiesz, że w Unicode, (standardzie kodowania znaków, który pozwala nam pisać w różnych językach i używać emoji), istnieje blok 128 znaków, które są... niewidzialne dla ludzkiego oka? 👀 Nazywają się "znaki tagów" – kiedyś miały służyć do oznaczania języków, ale nigdy się to nie przyjęło. W 2023 roku odkryto, że niewidzialne znaki Unicode mogą być użyte do manipulowania AI, takiej jak GPT-4 czy Claude. Johann Rehberger przeprowadził atak na Microsoft 365 Copilot, wykorzystując te niewidzialne znaki. Wynik? AI zdradziła poufne dane, a użytkownik nawet nie wiedział, że coś poszło nie tak. 🔒…