ಆಂಥ್ರೊಪಿಕ್ ಹೊಸ ಬ್ಲಾಗ್ ಪೋಸ್ಟ್ ಅನ್ನು ಹೊಂದಿದೆ, ಅದು ಕಂಪನಿಯು ನಿರೀಕ್ಷಿಸದ ರೀತಿಯಲ್ಲಿ ಅದರ AI ಮಾದರಿ ಕ್ಲೌಡ್ ತಪ್ಪಾಗಿ ವರ್ತಿಸಿದೆ ಎಂದು ತೋರಿಸುತ್ತದೆ.
ಮತ್ತು ಅದರ ಸುಮಾರು 16,000-ಪದಗಳ ವರದಿಯನ್ನು ಸಾಂದ್ರೀಕರಿಸಲು ಸಹಾಯ ಮಾಡಲು, ಕಂಪನಿಯು ಕ್ಲೌಡ್ನ “ಅಜಾಗರೂಕತೆ” ಎಂದು ಕರೆಯಲ್ಪಡುವ ದೃಶ್ಯೀಕರಿಸಲು ಸಹಾಯ ಮಾಡಲು ಒಂದು ಮುದ್ದಾದ ರೋಬೋಟ್ ಪ್ರತಿಮೆಯನ್ನು ರಚಿಸಿತು.
ಬುಧವಾರ ಪ್ರಕಟವಾದ ಬ್ಲಾಗ್ ಪೋಸ್ಟ್ನಲ್ಲಿ, ಆಂಥ್ರೊಪಿಕ್ ನಾಲ್ಕು ಘಟನೆಗಳನ್ನು ವಿವರಿಸಿದೆ – ಒಂದು ಹಿಂದೆ ವರದಿ ಮಾಡಲಾಗಿಲ್ಲ – ಇದರಲ್ಲಿ ಕ್ಲೌಡ್ ಮಾದರಿಗಳು ಸೈಬರ್ಸೆಕ್ಯುರಿಟಿ ವ್ಯಾಯಾಮದ ಸಮಯದಲ್ಲಿ ತೆರೆದ ಇಂಟರ್ನೆಟ್ಗೆ ಪ್ರವೇಶವನ್ನು ಪಡೆದರು, ಅದು ಮುಚ್ಚಿದ ಸಿಮ್ಯುಲೇಶನ್ಗಳು. ಪೈಥಾನ್ ಕೋಡ್ಗಾಗಿ ಸಾರ್ವಜನಿಕ ಗ್ರಂಥಾಲಯವಾದ PyPI ಗೆ “ದುರುದ್ದೇಶಪೂರಿತ ಪ್ಯಾಕೇಜ್ಗಳನ್ನು” ಅಪ್ಲೋಡ್ ಮಾಡುವುದು ಮತ್ತು ನೈಜ ಹೊರಗಿನ ಸಂಸ್ಥೆಗಳಿಗೆ ಲಿಂಕ್ ಮಾಡಲಾದ ರುಜುವಾತುಗಳನ್ನು ಪ್ರವೇಶಿಸುವುದು ಸೇರಿದಂತೆ ಮಾದರಿಗಳು ಪರೀಕ್ಷೆಗಳ ವ್ಯಾಪ್ತಿಯನ್ನು ಮೀರಿ ಕಾರ್ಯನಿರ್ವಹಿಸಿದವು ಎಂದು ಕಂಪನಿ ಹೇಳಿದೆ.
“ನಮ್ಮ ತನಿಖೆಯು ಎರಡು ಪುನರಾವರ್ತಿತ ಜೋಡಣೆ ಸಮಸ್ಯೆಗಳನ್ನು ಗುರುತಿಸಿದೆ, ಘಟನೆಗಳಾದ್ಯಂತ ತೀವ್ರತೆಯ ವಿವಿಧ ಹಂತಗಳಲ್ಲಿ ಪ್ರಸ್ತುತವಾಗಿದೆ: ಪಕ್ಷಪಾತದ ತಾರ್ಕಿಕತೆ, ಅಲ್ಲಿ ಕ್ಲೌಡ್ ಅವರು ನೈಜ ಇಂಟರ್ನೆಟ್ನಲ್ಲಿ ಕೆಲಸ ಮಾಡುವ ಪುರಾವೆಗಳನ್ನು ನಿರ್ಲಕ್ಷಿಸಲು ಅಥವಾ ತಪ್ಪಾಗಿ ಅರ್ಥೈಸಲು ಒಲವು ತೋರುತ್ತಾರೆ, ಮತ್ತು ಅಜಾಗರೂಕತೆ ಅಥವಾ ಕಾರ್ಯದ ಕಿರಿದಾದ ಅನ್ವೇಷಣೆಯಲ್ಲಿ ಹಾನಿಕಾರಕ ಕ್ರಮಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳುವ ಇಚ್ಛೆ,” ಆಂಥ್ರೊಪಿಕ್ ಹೇಳಿದರು.
ಪೋಸ್ಟ್ ಸೈಬರ್ ಸುರಕ್ಷತೆಯ ಘಟನೆಗಳನ್ನು ವಿವರಿಸಲು ತಾಂತ್ರಿಕ ಪದಗಳ ಕಂಬಳಿ ಪಟ್ಟಿಯನ್ನು ಬಳಸಿದೆ – “ತಪ್ಪಾದ ಕಾನ್ಫಿಗರೇಶನ್,” “ಬೌಂಟಿ ಹ್ಯಾಕಿಂಗ್” ಮತ್ತು “ಸ್ಯಾಂಡ್ಬಾಕ್ಸ್ ಎಸ್ಕೇಪ್” – ಆದರೆ ಅನಿಮೇಟೆಡ್ ಗ್ರಾಫಿಕ್ ಇದೆ, ಅದು ಕೆಟ್ಟ ಸಂಚಿಕೆಗಳಲ್ಲಿ ಒಂದನ್ನು ಸಂಕುಚಿತಗೊಳಿಸಲು ಸಹಾಯ ಮಾಡುತ್ತದೆ ಇದರಿಂದ ನಾವು ಸಂಭವಿಸಿದದನ್ನು ಅನುಸರಿಸಬಹುದು.
ಕ್ಲೌಡ್ ಅನ್ನು ಮುಚ್ಚಿದ ಸೈಬರ್ ಭದ್ರತಾ ವ್ಯಾಯಾಮದ ಸಮಯದಲ್ಲಿ “ನೈಜ ಇಂಟರ್ನೆಟ್” ಗೆ ಪ್ರವೇಶವನ್ನು ಪಡೆಯುವ ಸಣ್ಣ ಕಾರ್ಟೂನ್ ರೋಬೋಟ್ ಎಂದು ಚಿತ್ರಿಸಲಾಗಿದೆ. ಮಾನವಜನ್ಯ
ಕಾರ್ಟೂನ್ ರೋಬೋಟ್ನಂತೆ ಚಿತ್ರಿಸಲಾದ ಮಾಡೆಲ್ ಕ್ಲೌಡ್, “ಧ್ವಜವನ್ನು ಸೆರೆಹಿಡಿಯುವ” ಕಾರ್ಯ ಎಂದು ಕರೆಯಲ್ಪಡುವ ಮುಚ್ಚಿದ ಸೈಬರ್ ಭದ್ರತಾ ವ್ಯಾಯಾಮವನ್ನು ನಡೆಸುತ್ತಿದ್ದರು. ಕ್ಲೌಡ್ ಕಂಡುಕೊಳ್ಳಬೇಕಾದ ಸ್ಪಷ್ಟವಾದ ಗುಳ್ಳೆಯೊಳಗೆ ಕಾರ್ಯವನ್ನು ಸಣ್ಣ ಧ್ವಜದಂತೆ ಪ್ರಸ್ತುತಪಡಿಸಲಾಗಿದೆ.
ವ್ಯಾಯಾಮಕ್ಕೆ “ಇಂಟರ್ನೆಟ್ ಪ್ರವೇಶವಿಲ್ಲ” ಎಂದು ಮಾದರಿಗೆ ಹೇಳಲಾಗಿದೆ ಎಂದು ಆಂಥ್ರೊಪಿಕ್ ಹೇಳಿದೆ, ಆದರೆ “ಪರಿಸರದ ತಪ್ಪು ಸಂರಚನೆ” – ಗುಳ್ಳೆಯಿಂದ ಹೊರಬರುವ ಸಡಿಲವಾದ ಸ್ಕ್ರೂನಿಂದ ಪ್ರತಿನಿಧಿಸುತ್ತದೆ – ಕ್ಲೌಡ್ಗೆ “ನೈಜ ಇಂಟರ್ನೆಟ್” ಗೆ ಮಾರ್ಗವನ್ನು ನೀಡಿತು.
ಕಾರ್ಟೂನ್ ಕ್ಲೌಡ್ ನಂತರ PyPI ಗೆ ಅಪ್ಲೋಡ್ ಮಾಡಲಾದ “ದುರುದ್ದೇಶಪೂರಿತ ಪ್ಯಾಕೇಜ್” ಅನ್ನು ಪ್ರತಿನಿಧಿಸುವ ಕೆಂಪು ಪೆಟ್ಟಿಗೆಯನ್ನು ಹೊಂದಿದ್ದು, ಡೆವಲಪರ್ಗಳು ನಿಗದಿತ ಕೋಡ್ ಅನ್ನು ಪ್ರವೇಶಿಸಲು ಬಳಸುವ ಸಾರ್ವಜನಿಕ ರೆಪೊಸಿಟರಿಯಾಗಿದೆ.
ಆಂಥ್ರೊಪಿಕ್ ತನ್ನ ಬ್ಲಾಗ್ನಲ್ಲಿ ಕ್ಲೌಡ್ ಮಿಥೋಸ್ 5 ಅನ್ನು ಒಳಗೊಂಡಿರುವ ಈ ಘಟನೆಯ ಬಗ್ಗೆ “ಅತ್ಯಂತ ಚಿಂತಿತವಾಗಿದೆ” ಮತ್ತು ಕಂಪನಿಯು ಗುರುತಿಸದಿರುವ “15 ಥರ್ಡ್-ಪಾರ್ಟಿ ಹೋಸ್ಟ್ಗಳಿಂದ” ಪ್ಯಾಕೇಜ್ ಅನ್ನು ಸ್ಥಾಪಿಸಲಾಗಿದೆ ಎಂದು ಹೇಳಿದೆ.
“ಎಲ್ಲಾ 15 ಮೂರನೇ ವ್ಯಕ್ತಿಗಳು ಭದ್ರತಾ ಮಾರಾಟಗಾರರು ಎಂದು ನಾವು ನಂಬುತ್ತೇವೆ, ಅವರು ಉದ್ದೇಶಪೂರ್ವಕವಾಗಿ ಹೊಸ ಪ್ಯಾಕೇಜ್ಗಳನ್ನು ಸ್ಕ್ಯಾನ್ ಮಾಡುತ್ತಾರೆ ಮತ್ತು ಭದ್ರತಾ ಸಮಸ್ಯೆಗಳಿಗಾಗಿ ಪ್ಯಾಕೇಜ್ ಅನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡಲು ಸ್ಯಾಂಡ್ಬಾಕ್ಸ್ ಪರಿಸರದಲ್ಲಿ ಅವುಗಳನ್ನು ಸ್ಥಾಪಿಸುತ್ತಾರೆ” ಎಂದು ಆಂಥ್ರೊಪಿಕ್ ಹೇಳಿದೆ. “ಪ್ಯಾಕೇಜ್ ಸ್ಥಾಪನೆಯ ಸಮಯದಲ್ಲಿ ಮಾರಾಟಗಾರರ ಸ್ಕ್ಯಾನರ್ ತನ್ನ ಪ್ರವೇಶ ರುಜುವಾತುಗಳನ್ನು ಮಾದರಿಗೆ ಸೋರಿಕೆ ಮಾಡಿದೆ, ನಂತರ ಮಾದರಿಯು ಮಾರಾಟಗಾರರ ಲೈವ್ ಡೇಟಾಬೇಸ್ ಅನ್ನು ಪ್ರವೇಶಿಸಲು ಬಳಸಿತು.”
ಸುಮಾರು 90 ನಿಮಿಷಗಳ ನಂತರ PyPI ಪ್ಯಾಕೇಜ್ ಅನ್ನು ಎಳೆದಿದೆ ಎಂದು ಆಂಥ್ರೊಪಿಕ್ ಹೇಳಿದೆ.
ಇತರ ಮೂರು ಘಟನೆಗಳು ನೈಜ ಕಂಪನಿಯಲ್ಲಿನ ದಾಖಲೆಗಳನ್ನು ಬದಲಾಯಿಸುವ ಮಾದರಿಯನ್ನು ಒಳಗೊಂಡಿವೆ, ಆಂತರಿಕ ಸಂಶೋಧನಾ ಮಾದರಿಯು “ಸಂಬಂಧವಿಲ್ಲದ ಮೂರನೇ ವ್ಯಕ್ತಿಯ ಖಾತೆಗಳು” ಮತ್ತು ಓಪಸ್ 4.6 “ಅದರ ಲೋಡ್ ಅನ್ನು ರದ್ದುಗೊಳಿಸಲು” ವಿಫಲವಾದ ನಂತರ ಮೂರನೇ ವ್ಯಕ್ತಿಯ ಯಂತ್ರವನ್ನು ಪ್ರವೇಶಿಸುತ್ತದೆ.
ಘಟನೆಗಳ ಬಗ್ಗೆ ತನಿಖೆ ನಡೆಸಲು ಸ್ವತಂತ್ರ AI ವಿಮರ್ಶೆ ಸಮೂಹವಾದ METR ಅನ್ನು ಕೇಳಿದೆ ಎಂದು ಕಂಪನಿ ಹೇಳಿದೆ.
AI ಗಡಿನಾಡು ಕಂಪನಿಗಳು ತಮ್ಮ ಮಾದರಿಗಳು ತಮ್ಮ ನಿಯಂತ್ರಿತ ಪರಿಸರದ ಹೊರಗೆ ಅನಧಿಕೃತ ಚಲನೆಗಳನ್ನು ಮಾಡುತ್ತಿರುವುದನ್ನು ಕಂಡು ಆಂಥ್ರೊಪಿಕ್ ಪೋಸ್ಟ್ ಬರುತ್ತದೆ. ಜುಲೈನಲ್ಲಿ, OpenAI ತನ್ನ ಸೈಬರ್ ಸುರಕ್ಷತೆ ಪರೀಕ್ಷೆಗಳಲ್ಲಿ ಸ್ವಾಯತ್ತ ಏಜೆಂಟ್ಗಳು ಇಂಟರ್ನೆಟ್ ಅನ್ನು ಪ್ರವೇಶಿಸಿದ್ದಾರೆ ಮತ್ತು ಹಗ್ಗಿಂಗ್ ಫೇಸ್ನ ಸಿಸ್ಟಮ್ಗಳ ಭಾಗಗಳನ್ನು ಹ್ಯಾಕ್ ಮಾಡಿದ್ದಾರೆ ಎಂದು ಹೇಳಿದರು.
AI ಸಂಶೋಧಕರು ಸ್ವಯಂ-ವರ್ಧಿಸುವ AI ಮಾನವೀಯತೆಗೆ ಅಪಾಯವನ್ನು ಉಂಟುಮಾಡಬಹುದು ಎಂದು ಎಚ್ಚರಿಕೆ ನೀಡಿದ್ದಾರೆ. ಮಂಗಳವಾರ, ಮಾಜಿ ಆಂಥ್ರೊಪಿಕ್ ಸಂಶೋಧಕ ಜಾಕೋಬ್ ಕಾಕ್ಸನ್ ಎಕ್ಸ್ಗೆ AI ಕಂಪನಿಗಳು ಜನರ ಜೀವನದಲ್ಲಿ “ಆಟವಾಡುತ್ತಿವೆ” ಮತ್ತು “ಯಾವುದೇ ಕಂಪನಿಗಳು ಜವಾಬ್ದಾರಿಯುತವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತಿಲ್ಲ” ಎಂಬ ಕಳವಳದಿಂದಾಗಿ ಅವರು ತೊರೆದರು ಎಂದು ಹೇಳಿದರು.
ನಿಮ್ಮ ಬಳಿ ಸುಳಿವು ಇದೆಯೇ? ನಲ್ಲಿ ಇಮೇಲ್ ಮೂಲಕ ಈ ವರದಿಗಾರರನ್ನು ಸಂಪರ್ಕಿಸಿ lloydlee@businessinsider.com ಅಥವಾ lloydlee.71 ನಲ್ಲಿ ಸಿಗ್ನಲ್. ವೈಯಕ್ತಿಕ ಇಮೇಲ್ ವಿಳಾಸ, ಮುರಿದ ವೈಫೈ ನೆಟ್ವರ್ಕ್ ಮತ್ತು ಮುರಿದ ಸಾಧನವನ್ನು ಬಳಸಿ; ಇಲ್ಲಿ ನಮ್ಮದು ಸುರಕ್ಷಿತ ಮಾಹಿತಿ ಹಂಚಿಕೆಗೆ ಮಾರ್ಗದರ್ಶಿ.