Хиймэл оюуныг бид бүтээхдээ бодит байдал дээр өгөгдлийг өгч боловсруулах зарчим баримталдаг. Мэдээж жинхэнэ амьдралд нөлөөлөх шийдвэр эсвэл тоо баримт гаргаж ирэх ёстой юм чинь ингэхээс ч өөр яах вэ?

Жишээ нь мундаг захирал гэж яг хэнийг хэлэх вэ гэдэг тооцоог гаргах даалгавар хиймэл оюунд өглөө гэж үзье. Компьютер дэлхийн хамгийн амжилттай яваа компаниудын мэдээллийг шилж үзээд захирал гэдэг хүн ийм байх ёстой гэсэн мэдээллийг гаргаж ирнэ. Харамсалтай нь тэрхүү тооцоолол нь бодит байдалд огт нийлэхгүй байх магадлал асар өндөр юм. 

Учир нь хиймэл оюун ердөө тоо баримтыг судалж голчилсон байдлаар үр дүн харуулахаас биш үнэхээр төгс хариулт гаргаж ирж чадахгүй. Тиймээс шударга шийдвэр гаргаж чадах хиймэл оюун ухаан байна гэдэг тун хэцүү зүйл. Стэнфордын эрдэмтэд боловсронгуй компьютерт асар их хэмжээний өгөгдөл хийгээд "шударга ёс" гэж юу болохыг асуусанд нийтдээ 21 өөр хариулт гаргаж ирж байсан удаатай.

Энэ чиглэлээр мэргэшсэн Стэнфордын Их Сургуулийн эрдэмтэн Жон Басл "Бид шинэ технологийг ёс зүйд сургах тал дээр хэдэн жилийн өмнөхөөс ахиц гаргаагүй гэхэд болно" хэмээн мэдэгджээ. 

Үүнд гайхах зүйлгүй. Google, Microsoft, тэр байтугай АНУ-ын Батлан хамгаалах яам судалгаа явуулж ямар ч хүнд шударга байдлаар хандаж чадах хиймэл оюун бүтээх гэсэн боловч бүтэлгүйтсэн байдаг.

Орчин үед банк санхүү, иргэний бүртгэл, батлан хамгаалах салбар гээд бидний амь амьдралыг хариуцаж байдаг салбарууд хиймэл оюун дээр тулгуурлан хөгжих болсон учраас үүнд санаа зовохгүй байхын аргагүй. 

Бүр эрүүл мэндийн салбарт хүртэл хэнд ямар эмчилгээ хийх, ямар эм бэлдмэлийг үйлдвэрлэлд нэвтрүүлэх шаардлагатай вэ гэдгийг компьютер шийддэг болох төлөвтэй байгаа. Тийм байхад та өөрийн амийг буруу зөвийг ялгаж чадахгүй хиймэл оюунд даатгаж чадах уу?

Нэг жишээ: Банкны салбарт хиймэл оюун ашиглаж тухайн хүнд зээл өгөх эсэхээ тооцоолдог болсон байна. Мэдээж хэрэг ганцхан таны орлогын хэмжээ болон өмнөх зээл авч байсан түүх зэрэг энгийн мэдээллийг ашиглаж найдвартай зээлдэгч эсэхийг тодорхойлох учраас үүнд асуудал гарах нь бага. 

Харамсалтай нь мэдээллийн санд алдаа гарах эсвэл буруу өгөгдөл хүлээж авсан зэргээс болоод хиймэл оюуныг танд зээл өгч болохгүй гэсэн шийдвэр гаргаж болно. Энгийн банкны ажилтан ч гэсэн ийм алдаа гаргаж болох ч буруу зөвийг ялгах чадвартай учраас эргүүлэн мэдээллээ нягтлах зэргээр алдаагаа засаж чадна. Харин хиймэл оюуны хувьд энэ нь хэцүү. Энэ мэтээр олон асуудал гарна. 

Мэдээж хэрэг судлаач болон хөгжүүлэгчид энэхүү сул талыг таньсан учраас засах арга хэмжээ авч эхэлжээ. Дээрх шиг алдаа гаргахгүйн тулд хувь хүн гэдэг үзлийг нэн түрүүнд хиймэл оюунд суулгах ёстойг Принстон их сургуулийн судлаач Арвинд Наянан хэлсэн байна. Түүний хэлж буйгаар "Өөрийгөө хариуцлага хүлээх чадвартай хувь хүн гэж хүлээж авсан хиймэл оюун бусдыг бодох, буруу үйлдэл гаргахаас эмээх гэх мэт чанар" суух аж.

Улс төрчдийн хувьд АНУ-ын Сенатор Рон Вайден 2022 онд Алгоритмын хариуцлагын тухай хуулийг өргөн барихаар бэлджээ. Үүний ачаар хиймэл оюуны гаргасан харгис гэж хэлж болохоор шийдвэрээс болж хүмүүс хохирохыг хуулиар хориглох боломжтой болох юм. Үүнийг зөрчсөн тохиолдолд тухайн алгоритмыг зохиосон этгээд хариуцлага хүлээх гэнэ.