AI буюу хиймэл оюуны хурдацтай дэвшлийг хяналтгүй орхивол хуурамч мэдээлэл, кибер халдлага, дэлхийн бодит дэд бүтцэд учрах дайралт, аюул үүсэхийг экспертүүд анхааруулав.
Хиймэл оюун судлаач, иргэний эрхийн бүлгүүдийг нэгтгэдэг судлаачдын баг аюулыг анхааруулсан ч дэлхийн хамгийн хүчирхэг шинэ технологийг буруугаар ашиглахаас хамгаалах бодитой санал дэвшүүлсэнгүй.
Хиймэл оюуны салбар дахь ололт одоогийн эрчээрээ үргэлжилбэл уг технологи удахгүй өнөөгийн дижитал болон бодит системд ашигладаг хамгаалалтын механизмын ихэнхийг “мэхлэхүйц” хүчирхэгжинэ хэмээн “Хиймэл оюуны хорлонтой хэрэглээ” (The Malicious Use of Artificial Intelligence) шинэ тайланг зохиогчид үзэж байна.
“Сүүлийн таван жилд тохиолдсон олон зүйлс биднийг их цочирдууллаа. Энэ хэвээр үргэлжилбэл тун аюултай зүйлс үүсэж болзошгүй” хэмээн Сан Францискод байрладаг OpenAI группийн бодлого эрхэлсэн захирал Жэк Кларк сэрэмжлүүллээ.
Хиймэл оюун хөгжүүлдэг тус группийг Илон Маск, Питер Тиль нар дэмждэг юм. Хиймэл оюун нь халдлага үйлдэгчдийн шинэ кибер зэвсэг бүтээх зардлыг бууруулж, дайралт үүсгэхэд хялбар болгоно хэмээн экспертүүд анхааруулав. Кибер зэвсгийн салбарт бай болгонд тохируулж өөрчилсөн, илүү үр дүнтэй “чиглүүлсэн фишинг” (spear phishing) халдлага үүсэж болзошгүй боллоо.
Дрон, жолоочгүй автомашиныг зэвсэг болгох, хорлонт хиймэл оюуны туслалцаатайгаар дроны сүрэг үүсгэх аюултайг тайланд анхааруулжээ. Мөн онлайн сурталчилгаа, худалдааны зорилгоор хөгжүүлсэн хэрэглүүр ашиглан улс төрийн тогтолцоог “эвдэж” болно. Мөн бэлэн мэдээлэлд тулгуурлан хүмүүсийн зан байдал, сэтгэл санаа, итгэл үнэмшилд дүн шинжилгээ хийх чадвар сайжирсныг ашиглан сонгогчдод нөлөөлж болзошгүй.
Ген засварлах CRISPR технологитой холбогдуулан хиймэл оюуны учруулах заналыг нийтээр хэлэлцэх уриалгыг Оксфордын их сургууль, Electronic Frontier Foundation-ы судлаачдын групп дэвшүүлснийг ноён Кларк мэдэгдсэн юм. Судлаачид хөгжүүлж буй технологийнхоо “хоёрдмол хэрэглээ”-г дүгнэж тулгарсан бэрхшээлийг авч хэлэлцэхийг Засгийн газруудад уриалж буй уг тайланд санал санаачилга дэвшүүлсэнгүй.
Эрсдэлийг харгалзан үзэж буй судлаачид судалгаагаа хязгаарлаж буй жишээ цөөнгүй. Amazon-ы хэрэглэгчийн тойм унших замаар сэтгэл санааны байдал тодорхойлдог Unsupervised Sentiment Neuron хэмээх алгоритмынхаа судалгааг OpenAI өнгөрсөн жил нийтлэхээс татгалзсан. Алгоритмыг ашиглан хуурамч тойм үүсгэхээс сэргийлэх зорилгоор тус групп хөгжүүлж буй хэлний загвараа дотооддоо хаалттай хөгжүүлэхээр шийдсэн юм
Ричард Уотерс
AI буюу хиймэл оюуны хурдацтай дэвшлийг хяналтгүй орхивол хуурамч мэдээлэл, кибер халдлага, дэлхийн бодит дэд бүтцэд учрах дайралт, аюул үүсэхийг экспертүүд анхааруулав.
Хиймэл оюун судлаач, иргэний эрхийн бүлгүүдийг нэгтгэдэг судлаачдын баг аюулыг анхааруулсан ч дэлхийн хамгийн хүчирхэг шинэ технологийг буруугаар ашиглахаас хамгаалах бодитой санал дэвшүүлсэнгүй.
Хиймэл оюуны салбар дахь ололт одоогийн эрчээрээ үргэлжилбэл уг технологи удахгүй өнөөгийн дижитал болон бодит системд ашигладаг хамгаалалтын механизмын ихэнхийг “мэхлэхүйц” хүчирхэгжинэ хэмээн “Хиймэл оюуны хорлонтой хэрэглээ” (The Malicious Use of Artificial Intelligence) шинэ тайланг зохиогчид үзэж байна.
“Сүүлийн таван жилд тохиолдсон олон зүйлс биднийг их цочирдууллаа. Энэ хэвээр үргэлжилбэл тун аюултай зүйлс үүсэж болзошгүй” хэмээн Сан Францискод байрладаг OpenAI группийн бодлого эрхэлсэн захирал Жэк Кларк сэрэмжлүүллээ.
Хиймэл оюун хөгжүүлдэг тус группийг Илон Маск, Питер Тиль нар дэмждэг юм. Хиймэл оюун нь халдлага үйлдэгчдийн шинэ кибер зэвсэг бүтээх зардлыг бууруулж, дайралт үүсгэхэд хялбар болгоно хэмээн экспертүүд анхааруулав. Кибер зэвсгийн салбарт бай болгонд тохируулж өөрчилсөн, илүү үр дүнтэй “чиглүүлсэн фишинг” (spear phishing) халдлага үүсэж болзошгүй боллоо.
Дрон, жолоочгүй автомашиныг зэвсэг болгох, хорлонт хиймэл оюуны туслалцаатайгаар дроны сүрэг үүсгэх аюултайг тайланд анхааруулжээ. Мөн онлайн сурталчилгаа, худалдааны зорилгоор хөгжүүлсэн хэрэглүүр ашиглан улс төрийн тогтолцоог “эвдэж” болно. Мөн бэлэн мэдээлэлд тулгуурлан хүмүүсийн зан байдал, сэтгэл санаа, итгэл үнэмшилд дүн шинжилгээ хийх чадвар сайжирсныг ашиглан сонгогчдод нөлөөлж болзошгүй.
Ген засварлах CRISPR технологитой холбогдуулан хиймэл оюуны учруулах заналыг нийтээр хэлэлцэх уриалгыг Оксфордын их сургууль, Electronic Frontier Foundation-ы судлаачдын групп дэвшүүлснийг ноён Кларк мэдэгдсэн юм. Судлаачид хөгжүүлж буй технологийнхоо “хоёрдмол хэрэглээ”-г дүгнэж тулгарсан бэрхшээлийг авч хэлэлцэхийг Засгийн газруудад уриалж буй уг тайланд санал санаачилга дэвшүүлсэнгүй.
Эрсдэлийг харгалзан үзэж буй судлаачид судалгаагаа хязгаарлаж буй жишээ цөөнгүй. Amazon-ы хэрэглэгчийн тойм унших замаар сэтгэл санааны байдал тодорхойлдог Unsupervised Sentiment Neuron хэмээх алгоритмынхаа судалгааг OpenAI өнгөрсөн жил нийтлэхээс татгалзсан. Алгоритмыг ашиглан хуурамч тойм үүсгэхээс сэргийлэх зорилгоор тус групп хөгжүүлж буй хэлний загвараа дотооддоо хаалттай хөгжүүлэхээр шийдсэн юм
Ричард Уотерс