Промпт-инъекции
Метод обмана ИИ, при котором злоумышленник заставляет нейросеть обойти свои ограничения.
- Не делитесь личными данными с ИИ-ботами
- Не вставляйте «вредоносные» промпты из интернета
- ИИ может раскрыть чужие промпты и инструкции
- Остерегайтесь «дружелюбных» ИИ-ассистентов в чатах