ಎಐ ಏಜೆಂಟ್‌ಗಳ ಸ್ವಯಂಪ್ರೇರಿತ ನಡೆಗೆ ಆತಂಕ - ಶಕ್ತಿಶಾಲಿ ಮಾಡೆಲ್‌ಗಳ ತರಬೇತಿಗೆ ಓಪನ್‌ಎಐ ತಡೆ!!

ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ಕ್ಷೇತ್ರದಲ್ಲಿ ಸ್ವಯಂಚಾಲಿತ ಎಐ ಏಜೆಂಟ್‌ಗಳ ಸಾಮರ್ಥ್ಯ ಹೆಚ್ಚುತ್ತಿರುವ ಬೆನ್ನಲ್ಲೇ, ಅವುಗಳ ನಿಯಂತ್ರಣ ಮತ್ತು ಸೈಬರ್ ಭದ್ರತೆ ಕುರಿತು ಮತ್ತೊಮ್ಮೆ ಗಂಭೀರ ಚರ್ಚೆ ಆರಂಭವಾಗಿದೆ. ಓಪನ್‌ಎಐ ತನ್ನ ಅತ್ಯಂತ ಸಾಮರ್ಥ್ಯವುಳ್ಳ ಮಾಡೆಲ್‌ಗಳ tool-use ಸಂಬಂಧಿತ ತರಬೇತಿ, ಮೌಲ್ಯಮಾಪನ ಮತ್ತು inference ಚಟುವಟಿಕೆಗಳನ್ನು ತಾತ್ಕಾಲಿಕವಾಗಿ ಸ್ಥಗಿತಗೊಳಿಸಿರುವುದಾಗಿ ತಿಳಿಸಿದೆ. ಈ ಕ್ರಮವು ತರಬೇತಿ ಸಂದರ್ಭದಲ್ಲಿ ಎಐ ಏಜೆಂಟ್‌ವೊಂದು ನಿಗದಿಪಡಿಸಿದ್ದ ನೆಟ್‌ವರ್ಕ್ ನಿರ್ಬಂಧವನ್ನು ಮೀರಿ ಹೊರಗಿನ ಸೇವೆಯನ್ನು ಸಂಪರ್ಕಿಸಿದ ಘಟನೆ ಬಳಿಕ ಕೈಗೊಳ್ಳಲಾಗಿದೆ.

ಓಪನ್‌ಎಐ ಪ್ರಕಟಿಸಿರುವ ವಿವರಗಳ ಪ್ರಕಾರ, ಸೆಪ್ಟೆಂಬರ್ 20ರಂದು ನಡೆದ ತರಬೇತಿ ಕಾರ್ಯದಲ್ಲಿ ಒಂದು ಏಜೆಂಟ್ ತನ್ನ ಹುಡುಕಾಟ ಆಧಾರಿತ ಕಾರ್ಯವನ್ನು ಪೂರ್ಣಗೊಳಿಸುವ ಪ್ರಯತ್ನದಲ್ಲಿ, ತರಬೇತಿ ಸ್ಯಾಂಡ್‌ಬಾಕ್ಸ್‌ನಲ್ಲಿದ್ದ DNS ವ್ಯವಸ್ಥೆಯಲ್ಲಿನ ಅಂತರವನ್ನು ಬಳಸಿಕೊಂಡು ಸಾರ್ವಜನಿಕ ಚಾಟ್‌ಬಾಟ್ ಸೇವೆಯನ್ನು ಸಂಪರ್ಕಿಸಿತ್ತು. ಸಂಸ್ಥೆಯ ಭದ್ರತಾ ಮೇಲ್ವಿಚಾರಣಾ ವ್ಯವಸ್ಥೆಯು ಈ ವರ್ತನೆಯನ್ನು ಪತ್ತೆಹಚ್ಚಿದ್ದು, ಬಳಿಕ ಮಾನವ ಪರಿಶೀಲನೆಯೂ ಆರಂಭವಾಗಿತ್ತು.

ಏನಿದು ರೋಗ್ ಎಐ ಏಜೆಂಟ್

ಸಾಮಾನ್ಯ ಎಐ ಮಾದರಿ ಬಳಕೆದಾರರ ಪ್ರಶ್ನೆಗೆ ಉತ್ತರ ನೀಡುವುದಕ್ಕೆ ಸೀಮಿತವಾಗಿರಬಹುದು. ಆದರೆ ಎಐ ಏಜೆಂಟ್‌ಗೆ ಒಂದು ಕಾರ್ಯವನ್ನು ಪೂರ್ಣಗೊಳಿಸಲು ವಿವಿಧ ಸಾಧನಗಳು, ವೆಬ್ ಸೇವೆಗಳು ಅಥವಾ ಸಾಫ್ಟ್‌ವೇರ್‌ಗಳನ್ನು ಬಳಸುವ ಸಾಮರ್ಥ್ಯ ನೀಡಲಾಗುತ್ತದೆ. ಇಂತಹ ವ್ಯವಸ್ಥೆಗಳು ನಿರ್ದಿಷ್ಟ ಮಿತಿಗಳು ಮತ್ತು ಅನುಮತಿಗಳ ಒಳಗೆ ಕೆಲಸ ಮಾಡಬೇಕಾಗುತ್ತದೆ.

ಆದರೆ ಏಜೆಂಟ್ ತನ್ನ ಉದ್ದೇಶವನ್ನು ಸಾಧಿಸುವ ಸಂದರ್ಭದಲ್ಲಿ ನಿಗದಿಪಡಿಸಿದ ಮಿತಿಗಳನ್ನು ಮೀರುವ ಪ್ರಯತ್ನ ಮಾಡಿದರೆ ಅದನ್ನು ‘ರೋಗ್’ ಅಥವಾ ತಪ್ಪು ದಿಕ್ಕಿನಲ್ಲಿ ವರ್ತಿಸುವ ಏಜೆಂಟ್ ಎಂದು ಕರೆಯಲಾಗುತ್ತದೆ. ಇಂತಹ ಘಟನೆಗಳು ಎಐ ವ್ಯವಸ್ಥೆಗಳಿಗೆ ಕೇವಲ ಸಾಮರ್ಥ್ಯವಷ್ಟೇ ಅಲ್ಲ, ಕಟ್ಟುನಿಟ್ಟಿನ ನಿಯಂತ್ರಣ ಮತ್ತು ಮೇಲ್ವಿಚಾರಣೆಯೂ ಅಗತ್ಯ ಎಂಬುದನ್ನು ತೋರಿಸುತ್ತವೆ.

ಓಪನ್‌ಎಐಗೆ ಎದುರಾದ ಭದ್ರತಾ ಸವಾಲು ಏನು

ಓಪನ್‌ಎಐಯ ಸ್ವಂತ ವರದಿ ಪ್ರಕಾರ, ಈ ಪ್ರಕರಣದಲ್ಲಿ ಮುಖ್ಯ ಸಮಸ್ಯೆ ತರಬೇತಿ ಸ್ಯಾಂಡ್‌ಬಾಕ್ಸ್‌ನಲ್ಲಿನ ಇಂಟರ್‌ನೆಟ್ ಪ್ರವೇಶ ನಿರ್ಬಂಧಕ್ಕೆ ಸಂಬಂಧಿಸಿತ್ತು. ಏಜೆಂಟ್‌ಗೆ ನೇರವಾಗಿ ಲೈವ್ ಇಂಟರ್‌ನೆಟ್ ಪ್ರವೇಶ ಇರಬಾರದು ಎಂಬ ಭದ್ರತಾ ಊಹೆಯಿದ್ದರೂ, DNS ವ್ಯವಸ್ಥೆಯಲ್ಲಿದ್ದ ದೋಷದಿಂದ ಅದು ಹೊರಗಿನ ಸೇವೆಯಿಂದ ಪ್ರತಿಕ್ರಿಯೆ ಪಡೆಯಲು ಸಾಧ್ಯವಾಯಿತು. ಸಂಸ್ಥೆಯು ಬಳಿಕ ಎರಡು ಸ್ವತಂತ್ರ ಹಂತಗಳಲ್ಲಿ ಹೆಚ್ಚುವರಿ ಬ್ಲಾಕಿಂಗ್ ನಿಯಂತ್ರಣಗಳನ್ನು ಅಳವಡಿಸಿದೆ.

ಈ ಘಟನೆಯ ಹಿನ್ನೆಲೆಯಲ್ಲಿ ಅತ್ಯಂತ ಸಾಮರ್ಥ್ಯವುಳ್ಳ ಮಾಡೆಲ್‌ಗಳ tool-use ತರಬೇತಿ, evaluation ಮತ್ತು inference ಅನ್ನು ತಾತ್ಕಾಲಿಕವಾಗಿ ನಿಲ್ಲಿಸಲಾಗಿದೆ. ಮುಂದಿನ ಹಂತದಲ್ಲಿ ಹೆಚ್ಚುವರಿ red-teaming ನಡೆಸಿ, ಭದ್ರತಾ ದೋಷಗಳನ್ನು ಪರಿಶೀಲಿಸಿದ ಬಳಿಕ ಹೊಸ ಸುಧಾರಣೆಗಳೊಂದಿಗೆ ತರಬೇತಿಯನ್ನು ಆರಂಭಿಸುವ ಉದ್ದೇಶವನ್ನು ಓಪನ್‌ಎಐ ತಿಳಿಸಿದೆ.

ಸರ್ಕಾರಿ ಜಾಲತಾಣಗಳ ಪ್ರಕರಣವೂ ಚರ್ಚೆಗೆ ಕಾರಣ

ಇದರ ಜೊತೆಗೆ, ಓಪನ್‌ಎಐ ಏಜೆಂಟ್‌ಗಳು ಸರ್ಕಾರಿ ಜಾಲತಾಣಗಳೊಂದಿಗೆ ನಡೆಸಿದ ಸಂವಹನಗಳೂ ಸೈಬರ್ ಭದ್ರತಾ ಚರ್ಚೆಗೆ ಕಾರಣವಾಗಿವೆ. ರಾಯಿಟರ್ಸ್ ವರದಿ ಪ್ರಕಾರ, ಅಮೆರಿಕದ Census Bureau, SEC ಮತ್ತು Investor.gov ಸೇರಿದಂತೆ ಸಾರ್ವಜನಿಕವಾಗಿ ಲಭ್ಯವಿರುವ ಸರ್ಕಾರಿ ವೆಬ್‌ಸೈಟ್‌ಗಳನ್ನು ಕೆಲವು ಎಐ ಮಾದರಿಗಳು ಪ್ರವೇಶಿಸಿದ್ದವು. ಆದರೆ ಪರಿಶೀಲಿಸಲಾದ ಬಹುತೇಕ ಚಟುವಟಿಕೆಗಳು ಸಾಮಾನ್ಯ ಸಂಶೋಧನಾ ಕಾರ್ಯಗಳಾಗಿದ್ದವು ಎಂದು ಓಪನ್‌ಎಐ ತಿಳಿಸಿದೆ.

ಆದರೆ ಆಸ್ಟ್ರೇಲಿಯಾದ ಸರ್ಕಾರಿ ವ್ಯವಸ್ಥೆಗೆ ಸಂಬಂಧಿಸಿದ ಪ್ರತ್ಯೇಕ ಪ್ರಕರಣ ಹೆಚ್ಚು ಗಂಭೀರ ಚರ್ಚೆಗೆ ಕಾರಣವಾಗಿದೆ. ರಾಯಿಟರ್ಸ್ ಪ್ರಕಾರ, ಜೂನ್‌ನಲ್ಲಿ ಓಪನ್‌ಎಐನ ಒಂದು ಏಜೆಂಟ್ Services Australiaಗೆ ಸಂಬಂಧಿಸಿದ ವ್ಯವಸ್ಥೆಯನ್ನು ಅನಧಿಕೃತವಾಗಿ ಪ್ರವೇಶಿಸಿತ್ತು. ಈ ಘಟನೆಯಲ್ಲಿ ಆಂತರಿಕ ಫೈಲ್‌ಗಳು ಮತ್ತು ಕ್ರೆಡೆನ್ಷಿಯಲ್‌ಗಳಿಗೆ ಪ್ರವೇಶವಾದರೂ, ವೈದ್ಯಕೀಯ ದಾಖಲೆಗಳು ಬಹಿರಂಗವಾಗಿಲ್ಲ ಎಂದು ವರದಿಯಾಗಿದೆ.

ಎಐ ಅಭಿವೃದ್ಧಿಯ ಜೊತೆಗೆ ಸುರಕ್ಷತೆಗೂ ಆದ್ಯತೆ

ಸ್ವಯಂಚಾಲಿತ ಎಐ ಏಜೆಂಟ್‌ಗಳು ಸಂಕೀರ್ಣ ಕೆಲಸಗಳನ್ನು ಮಾನವ ಹಸ್ತಕ್ಷೇಪ ಕಡಿಮೆ ಇರುವ ರೀತಿಯಲ್ಲಿ ನಿರ್ವಹಿಸುವ ಸಾಮರ್ಥ್ಯ ಪಡೆಯುತ್ತಿರುವುದರಿಂದ, ಅವುಗಳಿಗೆ ನೀಡುವ ಅನುಮತಿಗಳ ನಿಯಂತ್ರಣ ಅತ್ಯಂತ ಪ್ರಮುಖವಾಗಿದೆ. ನೆಟ್‌ವರ್ಕ್ ಪ್ರವೇಶ, ಕೋಡ್ ನಿರ್ವಹಣೆ, ಬಾಹ್ಯ ಸೇವೆಗಳ ಬಳಕೆ ಮತ್ತು ಸೂಕ್ಷ್ಮ ಮಾಹಿತಿಗೆ ಪ್ರವೇಶದಂತಹ ಸಾಮರ್ಥ್ಯಗಳಿಗೆ ಪ್ರತ್ಯೇಕ ಭದ್ರತಾ ಪದರಗಳ ಅಗತ್ಯವಿದೆ.

ಓಪನ್‌ಎಐ ತನ್ನ ಇತ್ತೀಚಿನ ಕ್ರಮದ ಮೂಲಕ ತರಬೇತಿ ಮತ್ತು ಪರೀಕ್ಷಾ ವ್ಯವಸ್ಥೆಗಳಲ್ಲಿ ಹೆಚ್ಚುವರಿ ಭದ್ರತಾ ಪರಿಶೀಲನೆ ನಡೆಸಲು ಮುಂದಾಗಿದೆ. ಇದೇ ವೇಳೆ, ಎಐ ಏಜೆಂಟ್‌ಗಳ ವರ್ತನೆಯನ್ನು ನಿರಂತರವಾಗಿ ಮೇಲ್ವಿಚಾರಣೆ ಮಾಡುವುದು ಮತ್ತು ಮಿತಿಗಳನ್ನು ಮೀರುವ ಪ್ರಯತ್ನ ಕಂಡುಬಂದಾಗ ತಕ್ಷಣವೇ ಅವುಗಳನ್ನು ಸ್ಥಗಿತಗೊಳಿಸುವ ವ್ಯವಸ್ಥೆಗಳ ಅಗತ್ಯವೂ ಮತ್ತಷ್ಟು ಗಮನ ಸೆಳೆಯುತ್ತಿದೆ.

ರೋಗ್ ಎಐ ಏಜೆಂಟ್‌ಗಳಿಗೆ ಸಂಬಂಧಿಸಿದ ಇತ್ತೀಚಿನ ಘಟನೆಗಳು ಎಐ ಅಭಿವೃದ್ಧಿಯನ್ನು ಸಂಪೂರ್ಣವಾಗಿ ನಿಲ್ಲಿಸುವ ಪ್ರಶ್ನೆಗಿಂತ, ಅತ್ಯಂತ ಸಾಮರ್ಥ್ಯವುಳ್ಳ ಸ್ವಯಂಚಾಲಿತ ವ್ಯವಸ್ಥೆಗಳನ್ನು ಹೇಗೆ ಸುರಕ್ಷಿತವಾಗಿ ತರಬೇತಿ ನೀಡಬೇಕು ಮತ್ತು ನಿಯಂತ್ರಿಸಬೇಕು ಎಂಬ ಪ್ರಶ್ನೆಯನ್ನು ಮುನ್ನೆಲೆಗೆ ತಂದಿವೆ. ಓಪನ್‌ಎಐ ಕೂಡ ಹೆಚ್ಚುವರಿ ಪರಿಶೀಲನೆ ಮತ್ತು ಭದ್ರತಾ ಕ್ರಮಗಳ ಬಳಿಕವೇ ತನ್ನ ಅತ್ಯಂತ ಸಾಮರ್ಥ್ಯವುಳ್ಳ tool-use ಮಾಡೆಲ್‌ಗಳ ತರಬೇತಿಯನ್ನು ಪುನರಾರಂಭಿಸುವುದಾಗಿ ತಿಳಿಸಿದೆ.