AI ಮೇಲೆ ದಾಳಿ ಮಾಡಲು ಒಮ್ಮೆ ಜನಪ್ರಿಯವಾಗಿದ್ದ, ASCII ಕಳ್ಳಸಾಗಣೆಯನ್ನು ಸ್ಪ್ಯಾಮರ್‌ಗಳು ಸ್ವೀಕರಿಸುತ್ತಾರೆ

AI ಏಜೆಂಟ್‌ಗಳ ಮೇಲಿನ ದಾಳಿಯಲ್ಲಿ ದುರುದ್ದೇಶಪೂರಿತ ವಿನಂತಿಗಳನ್ನು ಮರೆಮಾಡಲು ಬಳಸುವ ಬುದ್ಧಿವಂತ ತಂತ್ರವನ್ನು ಸ್ಪ್ಯಾಮರ್‌ಗಳು ಅಳವಡಿಸಿಕೊಂಡಿದ್ದಾರೆ, ಇದು ಸಾಮೂಹಿಕ ಪ್ರಚಾರಗಳಲ್ಲಿ ಬಳಸಲಾಗುವ ಸ್ಪ್ಯಾಮ್ ಅನ್ನು ಫ್ಲ್ಯಾಗ್ ಮಾಡಲು ವಿನ್ಯಾಸಗೊಳಿಸಲಾದ ಇಮೇಲ್ ಪ್ಲಾಟ್‌ಫಾರ್ಮ್‌ಗಳಲ್ಲಿನ ಫಿಲ್ಟರ್‌ಗಳನ್ನು ತಪ್ಪಿಸಲು.

ತಂತ್ರವನ್ನು ಸಾಮಾನ್ಯವಾಗಿ ASCII ಕಳ್ಳಸಾಗಣೆ ಎಂದು ಕರೆಯಲಾಗುತ್ತದೆ. ಪ್ರಾಂಪ್ಟ್ ಇಂಜೆಕ್ಷನ್‌ಗಳು ಎಂದು ಕರೆಯಲ್ಪಡುವ AI ದಾಳಿಯ ವರ್ಗವನ್ನು ಹೆಚ್ಚು ರಹಸ್ಯವಾಗಿ ಮಾಡುವ ಸಾಧನವಾಗಿ ಇದು ಎರಡು ವರ್ಷಗಳ ಹಿಂದೆ ಗಮನ ಸೆಳೆಯಿತು. ಇಮೇಲ್‌ಗಳಲ್ಲಿ ಹುದುಗಿರುವ ದುರುದ್ದೇಶಪೂರಿತ ಸೂಚನೆಗಳು ಅಥವಾ LLM ನಿಂದ ಪ್ರಕ್ರಿಯೆಗೊಳಿಸಬೇಕಾದ ಇತರ ವಿಶ್ವಾಸಾರ್ಹವಲ್ಲದ ವಿಷಯವನ್ನು ಸರಳ ಪಠ್ಯದಲ್ಲಿ ಬರೆಯಲಾಗುವುದಿಲ್ಲ. ಬದಲಾಗಿ, ಅವುಗಳನ್ನು ವಿಶೇಷ ಶ್ರೇಣಿಯ ಮೂಲಕ ಆಡಲಾಗುತ್ತದೆ ಯುನಿಕೋಡ್ ಲೇಬಲ್‌ಗಳು. ಉದಾಹರಣೆಗೆ, ಟ್ಯಾಗ್ ಪಾಯಿಂಟ್ U+E0041 ಕನ್ನಡಿಗಳು “A” ಮತ್ತು U+E0061 ಕನ್ನಡಿಗಳು “a”.

ಪ್ರಾಂಪ್ಟ್ ಚುಚ್ಚುಮದ್ದನ್ನು ಮರೆಮಾಡಲು ಇದು ಇನ್ನು ಮುಂದೆ ಅಲ್ಲ

128 ಟ್ಯಾಗ್ ಬ್ಲಾಕ್ ನ ಭಾಗವನ್ನು ಅನುಕರಿಸುತ್ತದೆ ಮಾಹಿತಿ ವಿನಿಮಯಕ್ಕಾಗಿ ಅಮೇರಿಕನ್ ಸ್ಟ್ಯಾಂಡರ್ಡ್ ಕೋಡ್ ಬಹುತೇಕ ಪರಿಪೂರ್ಣ, ಒಂದು ಪ್ರಮುಖ ವ್ಯತ್ಯಾಸದೊಂದಿಗೆ: ಇದು ಎನ್‌ಕೋಡ್ ಮಾಡುವ ಅಕ್ಷರಗಳನ್ನು ಕಂಪ್ಯೂಟರ್‌ಗಳು ಓದಬಲ್ಲವು, ಆದರೆ ವಿನ್ಯಾಸದಿಂದ ಮನುಷ್ಯರಿಗೆ ಸಂಪೂರ್ಣವಾಗಿ ಅಗೋಚರವಾಗಿರುತ್ತವೆ. ಈ ಟ್ಯಾಗ್‌ಗಳಲ್ಲಿ ದುರುದ್ದೇಶಪೂರಿತ ವಿನಂತಿಗಳನ್ನು ಹಾಕುವ ಮೂಲಕ, LLM ಗಳು ಸೂಚನೆಗಳನ್ನು ಪತ್ತೆಹಚ್ಚುತ್ತವೆ, ಆದರೆ ಇಮೇಲ್ ಅನ್ನು ಓದುವ ಜನರು ಅವುಗಳನ್ನು ಎಂದಿಗೂ ನೋಡುವುದಿಲ್ಲ. ಇಲ್ಲಿ ASCII ಕಳ್ಳಸಾಗಣೆ ಬಗ್ಗೆ ಹೆಚ್ಚು ಇದೆ.

ಪೂರ್ಣ ಲೇಖನವನ್ನು ಓದಿ

ಕಾಮೆಂಟ್‌ಗಳು

Source link