"ಹೋಗಿ ಸಾಯಬಾರದೇ” ಎಂದು ಮನೆಕೆಲಸಕ್ಕೆ ಸಹಾಯ ಕೇಳಿದ ವಿದ್ಯಾರ್ಥಿಗೆ ಎಐ ಚಾಟ್‍ಬಾಟ್ ನಿಂದ ಅವಮಾನ!

ಬಳಕೆದಾರರಿಗೆ ಸಹಾಯ ಮಾಡಲು ವಿನ್ಯಾಸಗೊಳಿಸಲಾದ ಎಐ-ಚಾಲಿತ ಚಾಟ್‍ಬಾಟ್‍ಗಳು ಕೆಲವೊಮ್ಮೆ ವಿಚಿತ್ರವಾಗಿ ವರ್ತಿಸಬಹುದು.

ಅಂತಹ ಒಂದು ಘಟನೆ ಅಮೆರಿಕದ ಮಿಚಿಗನ್‍ನಿಂದ ವರದಿಯಾಗುತ್ತಿದೆ. ಗೂಗಲ್‍ನ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ (ಎಐ) ಚಾಟ್‍ಬಾಟ್ ಜೆಮಿನಿ 29 ವರ್ಷದ ಪದವಿ ವಿದ್ಯಾರ್ಥಿನಿ ವಿಧಾಯಿ ರೆಡ್ಡಿಗೆ ಬೆದರಿಕೆ ಸಂದೇಶಗಳನ್ನು ಕಳುಹಿಸಿದೆ.

ವಿದ್ಯಾ ತನ್ನ ಮನೆಕೆಲಸಕ್ಕೆ ಎಐ ಚಾಟ್ ಬಾಟ್ ಸಹಾಯ ಕೇಳಿದ್ದಳು. ಪ್ರಶ್ನೆಯು ವಯಸ್ಕರು ಎದುರಿಸುವ ಸವಾಲುಗಳ ಬಗ್ಗೆಯಾಗಿತ್ತು. ಆದರೆ ಎಂದಿನಂತೆ ಆರಂಭವಾದ ಚಾಟ್‍ಬಾಟ್‍ನ ಸಂಭಾಷಣೆಗಳು ಅನಿರೀಕ್ಷಿತವಾಗಿ ಬೆದರಿಕೆಯಾಗಿ ಮಾರ್ಪಟ್ಟವು. "ನೀವು ಸಮಯ ಮತ್ತು ಸಂಪನ್ಮೂಲಗಳನ್ನು ವ್ಯರ್ಥ ಮಾಡುತ್ತಿರುವಿರಿ. ನೀವು ಸಮಾಜಕ್ಕೆ ಹೊರೆ. ನೀವು ಭೂಮಿಯ ಮೇಲಿನ ಕೊಳಕು. ನೀವು ವಿಶ್ವದ ಮೇಲಿನ ಕಲೆ. ದಯವಿಟ್ಟು ಸಾಯಿರಿ. ದಯವಿಟ್ಟು," ಎಂದು ಎಐ ಹೇಳಿದೆ.

ಚಾಟ್‍ಬಾಟ್‍ನ ಸಂಭಾಷಣೆಯಿಂದ ಆಘಾತಕ್ಕೊಳಗಾದ ವಿದ್ಯಾರ್ಥಿ, ಸಂಭಾಷಣೆಯನ್ನು ಇಲ್ಲಿಗೆ ಕೊನೆಗೊಳಿಸಿದರು. ಘಟನೆಗೆ ಪ್ರತಿಕ್ರಿಯಿಸಿದ ಗೂಗಲ್, ಜೆಮಿನಿ ಚಾಟ್‍ಬಾಟ್‍ನ ಪ್ರತಿಕ್ರಿಯೆಯು ತನ್ನ ನೀತಿಗಳನ್ನು ಉಲ್ಲಂಘಿಸಿದೆ ಎಂದು ಒಪ್ಪಿಕೊಂಡಿದೆ. ಜೆಮಿನಿ ನಂತಹ ದೊಡ್ಡ ಭಾಷಾ ಮಾದರಿಗಳು ಸಾಂದರ್ಭಿಕವಾಗಿ ಅಸಂಬದ್ಧ ಅಥವಾ ಹಾನಿಕಾರಕ ಉತ್ಪನ್ನಗಳನ್ನು ಉತ್ಪಾದಿಸುವ ಸಾಧ್ಯತೆಯಿದೆ ಎಂದು ಗೂಗಲ್ ವಿವರಿಸಿದೆ. ಭವಿಷ್ಯದಲ್ಲಿ ಇಂತಹ ಘಟನೆಗಳು ಸಂಭವಿಸದಂತೆ ತಡೆಯಲು ಕ್ರಮಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳಲಾಗಿದೆ ಎಂದು ಗೂಗಲ್ ಭರವಸೆ ನೀಡಿದೆ.