Deepfake гэж юу вэ, хиймэл оюун ухаан бодит байдлыг хэрхэн өөрчилж байна вэ?

Сүүлийн жилүүдэд «deepfake» гэдэг үг технологийн явцуу форумаас өдөр тутмын яриа руу шилжлээ. Зохиомол улс төрийн илтгэл, засварласан алдартнуудын видео, луйврын дуу бичлэгийн тухай мэдээ онлайнд үнэн, худлыг ялгах нь улам хэцүү болж байгааг харуулж байна. Нөгөө талаар кино найруулагч, багш, дижитал уран бүтээлчид энэ технологийг бүтээлч, ашигтай зорилгоор туршиж байна. Тиймээс deepfake бол орчин үеийн хиймэл оюун ухааны (AI) хамгийн хүчтэй бөгөөд маргаантай хөгжлийн нэг юм.

Deepfake яагаад чухал болохыг ойлгохын тулд энэ нь уламжлалт утгаараа зүгээр л засварласан видео, өөрчилсөн зураг биш гэдгийг мэдэх хэрэгтэй. Хүмүүс Photoshop, дуу оруулалт, видео засварын программаар медиаг хэдэн арван жил өөрчилсөөр ирсэн. Deepfake-ийн ялгаа нь хүний оролцоо бага шаардан маш бодит мэт синтетик (зохиомол) медиа бүтээж чаддаг машин сургалтын дэвшилтэт системийг ашигладагт оршино. Хиймэл оюун ухаан одоо хүний царай, дуу хоолой, нүүрний хувирал, бүр зан байдлыг ч гайхалтай нарийвчлалтай дуурайж чадна.

Энэ технологийн өөрчлөлт нийгэмд гүн нөлөөтэй. Deepfake нь дүрс бичлэгийг нотлох баримт гэж үздэг уламжлал, сэтгүүлзүйд итгэх итгэл, хувь хүний таниулбар, улс төрийн харилцаа, дижитал аюулгүй байдлын талаарх удаан тогтсон ойлголтыг сорьж байна. Нөгөө талаар энэ нь орчин үеийн AI системийн гайхалтай чадварыг харуулж, зугаа цэнгэл, хүртээмж, боловсролд шинэ боломж нээж байна.

Тиймээс deepfake-ийг бүрэн ойлгохын тулд технологи хэрхэн ажилладгаас гадна яагаад бий болсон, хэрхэн ашиглагддаг, ямар эрсдэл дагуулдаг, ирээдүйд ямар ёс зүйн асуулт тавьж байгааг авч үзэх шаардлагатай.

Deepfake гэж юу вэ?

«Deepfake» гэдэг нэр томьёо нь «deep learning» (гүн сургалт) ба «fake» (хуурамч) гэсэн хоёр ойлголтыг нийлүүлсэн үг. Гүн сургалт нь хүний тархины бүтцээс санаа авсан нейрон сүлжээ ашигладаг хиймэл оюун ухааны салбар бөгөөд асар их өгөгдлөөс зүй тогтлыг сурдаг. «Fake» хэсэг нь эдгээр системийн бүтээсэн синтетик буюу өөрчилсөн агуулгыг хэлнэ.

Иймээс deepfake гэдэг нь хиймэл оюун ухаанаар бүтээсэн эсвэл өөрчилж, жинхэнэ мэт харагдуулсан медиа — ихэвчлэн видео, аудио эсвэл зураг юм. Олон тохиолдолд энэ технологиор видео дахь нэг хүний царайг өөр хүнийхээр солих, өөр хүний дуу хоолойгоор бодит мэт яриа үүсгэх, эсвэл огт байхгүй зохиомол хүмүүсийг бүтээдэг.

Deepfake-ийн хамгийн гайхмаар тал нь бодит байдал юм. Эхэн үеийн жишээнүүд ихэвчлэн болхи, гажуудсан харагддаг байсан: нүд ирмэх нь ер бусын, уруулын хөдөлгөөн дуутай таарахгүй, гэрэлтүүлэг зөрүүтэй гэх мэт. Харин орчин үеийн системүүд эрс сайжирсан. Өнөөгийн AI загварууд энгийн үзэгчийг, ялангуяа сошиал медиа эсвэл гар утсаар хурдан үзэх үед хуурч чадах маш итгэл үнэмшилтэй агуулга бүтээж чаддаг.

Deepfake нь AI-аар бүтээсэн текст, зураг, хөгжим, видеог багтаасан «синтетик медиа» гэсэн өргөн ангиллын нэг хэсэг. Үүсгэгч (generative) AI технологи хөгжихийн хэрээр жинхэнэ болон синтетик агуулгын хоорондох зааг улам бүдгэрсээр байна.

Deepfake технологийн үүсэл, хөгжил

Deepfake технологийн суурь энэ нэр томьёо түгээмэл болохоос нэлээд өмнө тавигдсан. Компьютерийн хараа, машин сургалтын судлаачид зураг, ярианаас зүй тогтол таних системийг хэдэн арван жил хөгжүүлсэн. 2010-аад онд график процессор (GPU), асар том дижитал өгөгдлийн сан, нейрон сүлжээний загварчлалын дэвшил хөгжлийг хурдасгасан.

Гол нээлт нь generative adversarial networks буюу GAN (өрсөлдөгч үүсгэгч сүлжээ) бий болсон явдал. 2014 онд компьютерийн эрдэмтэн Иан Гудфеллоу (Ian Goodfellow)-ийн танилцуулсан GAN зураг үүсгэх салбарт хувьсгал хийсэн. GAN нь бие биенийхээ эсрэг ажилладаг хоёр нейрон сүлжээнээс бүрдэнэ. Нэг сүлжээ нь синтетик зураг үүсгэж, нөгөө нь тэр зураг жинхэнэ эсвэл хуурамч эсэхийг тодорхойлохыг оролддог. Давтан өрсөлдсөөр үүсгэгч сүлжээ бодит агуулга бүтээхдээ аажмаар сайжирдаг.

Энэ шинэчлэл нь хүний царай, нүүрний хувирал, дүрсийн эффектийг маш итгэл үнэмшилтэйгээр бүтээх боломжийг нээсэн. Удалгүй онлайн нийгэмлэгүүд царай солих программ туршиж эхэлсэн. «Deepfake» гэдэг нэр томьёо 2017 оны орчим интернэт хэрэглэгчид машин сургалтын хэрэгслээр алдартнуудын царайг видеон дээр давхарлаж эхэлснээр гарч ирсэн.

Эхэндээ энэ технологи техникийн мэдлэг, үнэтэй тооцооллын нөөц шаарддаг байсан тул төдийлөн хүртээмжгүй байв. Гэвч цаг хугацааны явцад программууд хэрэглэхэд хялбар болсон. Нээлттэй эхийн хэрэгсэл, гар утасны апп, үүлэн тооцооллын платформууд мэргэжлийн бус хүмүүст ч улам боловсронгуй синтетик медиа бүтээх боломж олгосон.

Өнөөдөр deepfake технологи царай солихоос хэтэрсэн. AI системүүд бодит мэт дуу хоолой үүсгэх, хөдөлгөөнгүй зургийг хөдөлгөөнт болгох, дижитал аватар бүтээх, биеийн бүтэн хөдөлгөөнийг синтезлэх чадвартай болсон. Зарим загвар зөвхөн текстэн тайлбараас бүхэлдээ зохиомол видео үүсгэж ч чадна.

Deepfake хэрхэн ажилладаг вэ?

Deepfake-ийн техникийн нарийн ширийн зүйл төвөгтэй ч үндсэн явцыг хэдэн гол үе шатаар ойлгож болно.

1. 1Эхний үе шат нь өгөгдөл цуглуулах. AI систем зорилтот хүний гэрэл зураг, видео бичлэг, дуу бичлэг зэрэг их хэмжээний сургалтын материал шаарддаг. Өгөгдөл олон янз байх тусам загвар нүүрний хувирал, ярианы хэв маяг, хөдөлгөөнийг илүү нарийн сурна.
2. 2Дараа нь AI загвар эдгээр жишээг шинжилж, зүй тогтлыг тодорхойлно.

- Царайны deepfake-д систем нүүрний бүтэц — нүдний байрлал, арьсны бүтэц, толгойн хөдөлгөөн, сэтгэл хөдлөлийн илэрхийллийг сурна.
- Дуу хоолой хуулбарлах (voice cloning)-д загвар өнгө аяс, хэмнэл, дуудлага, хоолойн онцлогийг судална.

3. 3Сургалтын дараа загвар синтетик үр дүн гаргана. Жишээ нь, deepfake видеоны систем нэг хүний нүүрний хувирлыг өөр хүний царай дээр бодит цагт буулгаж болно. Үүнтэй адил дуу синтезийн загвар эх илтгэгчийнхтэй маш төстэй яриа үүсгэж чадна.

Орчин үеийн deepfake системүүд ихэвчлэн autoencoder, GAN, diffusion загвар, transformer-д суурилсан архитектур ашигладаг. Эдгээр арга AI-д улам нарийвчилсан, уялдаатай медиа бүтээх боломж олгоно.

Deepfake хэр бодит харагдах нь сургалтын өгөгдлийн чанар, тооцооллын нөөц, гэрэлтүүлгийн тогтвортой байдал, дараах засвар зэрэг хэд хэдэн хүчин зүйлээс хамаарна. Мэргэжлийн түвшний deepfake-д өнгө засах, царай зөөлрүүлэх, дуу тааруулах зэрэг нэмэлт боловсруулалт хийгдэж болно.

Хамгийн чухал нь үүсгэгч AI хурдан сайжирч байгаа тул deepfake бүтээхэд улам хялбар болж, харин илрүүлэхэд улам хэцүү болж байна.

Deepfake-ийн төрлүүд

Deepfake технологи засварласан видеогоор хязгаарлагдахгүй. Синтетик медиагийн хэд хэдэн гол хэлбэр гарч ирсэн бөгөөд тус бүр өөрийн хэрэглээ, эрсдэлтэй.

Царай сольсон видео

Хамгийн өргөн танигдсан deepfake-ийн төрөл. AI нэг хүний царайг өөр хүнийхээр сольж, нүүрний хувирал, хөдөлгөөнийг хадгална. Ийм видеог зугаа цэнгэл, интернэт соёлд их ашигладаг ч худал мэдээлэл тараах, дарамтлахад ч ашиглаж болно.

Дуу хоолой хуулбарлах

AI систем одоо богинохон дуу бичлэгийг шинжлээд хүний дуу хоолойг дуурайж чадна. Энэ технологи хүртээмж, зугаа цэнгэлд хууль ёсны хэрэглээтэй ч луйвар, бусдын нэрийг барих, таниулбар хулгайлах боломж бас олгодог.

Синтетик аватар

Бүхэлдээ AI-аар бүтээсэн виртуал хөтлөгч, дижитал хүмүүсийг үйлчлүүлэгчийн үйлчилгээ, боловсрол, маркетингт улам их ашиглаж байна. Эдгээр аватар жүжигчин шаардлагагүйгээр бодит мэт яриа, нүүрний хувирлыг дуурайж чадна.

AI-аар бүтээсэн зураг

Зарим синтетик зурагт хэзээ ч байгаагүй зохиомол хүмүүс дүрслэгддэг. Ийм зургийг жинхэнэ гэрэл зургаас ялгах бараг боломжгүй байх нь элбэг бөгөөд ихэвчлэн дэвшилтэт зураг үүсгэх загвараар бүтээдэг.

Уруулын хөдөлгөөн өөрчлөх (lip-sync)

AI видеон дахь амны хөдөлгөөнийг өөр дуу бичлэгтэй тааруулан өөрчилж чадна. Ингэснээр илтгэгчийг хэзээ ч хэлээгүй үгээ хэлж байгаа мэт харагдуулдаг.

Текстээс видео үүсгэх

Сүүлийн үеийн AI системүүд бичсэн тайлбараас шууд богино видео үүсгэж чадна. Хөгжлийн шатандаа байгаа ч энэ технологи ирээдүйд синтетик медиагийн боломжийг эрс өргөжүүлж магадгүй.

Deepfake технологийн эерэг хэрэглээ

Deepfake-ийн тухай олон нийтийн яриа ихэвчлэн аюул, буруугаар ашиглахад төвлөрдөг ч энэ технологи бүтээлч, шинэлэг хэрэглээтэй. Бусад олон технологийн нэгэн адил deepfake өөрөө хортой биш — нөлөө нь хэрхэн ашиглахаас ихээхэн хамаарна.

• Кино урлагт найруулагчид AI-аар бүтээсэн дүрсийн эффектээр жүжигчдийг залууруулах, түүхэн хүмүүсийг дахин бүтээх, дуусаагүй тоглолтыг гүйцээх зэргээр ашигладаг. Өмнө нь асар их төсөв шаарддаг байсан дижитал эффектийг машин сургалтаар илүү үр ашигтай хийж болж байна.
• Боловсрол, түүхийн өвийг хадгалахад ч синтетик медиа тустай. Музей, баримтат кинонд түүхэн хүмүүс үзэгчидтэй шууд ярьж байгаа мэт интерактив туршлага бүтээж болно. AI-аар дахин сэргээсэн үзэгдэл боловсролын агуулгыг илүү сонирхолтой, хүртээмжтэй болгож магадгүй.
• Хүртээмж бол бас нэг чухал хэрэглээ. Дуу синтезийн технологи өвчний улмаас ярих чадвараа алдсан хүмүүст тусалж чадна. Зарим систем өвчтөнд эмчилгээ ярианд нь нөлөөлөхөөс өмнө өөрийн дуу хоолойн дижитал хувилбарыг хадгалах боломж олгодог.
• Тоглоом, виртуал бодит байдлын салбар ч бодит харилцаа хийх чадвартай синтетик дүрүүдийг судалж байна. AI-аар бүтээсэн аватарууд ирээдүйд дижитал харилцаа, үйлчлүүлэгчийн дэмжлэг, зайнаас хамтран ажиллах арга барилыг өөрчилж магадгүй.
• Кино орчуулгад AI-ийн lip-sync технологи орчуулсан ярианы дууг жүжигчдийн амны хөдөлгөөнтэй тааруулж, хэл бүрт илүү байгалийн дуу оруулалт бий болгож чадна.

Эдгээр эерэг хэрэглээ нь deepfake технологи өөрөө ёс зүйгүй биш гэдгийг харуулж байна. Ёс зүйн асуудал нь буруугаар ашиглах, хууран мэхлэх, зөвшөөрөл аваагүй байх, хорон санаанаас үүсдэг.

Deepfake-ийн аюул, эрсдэл

Ашигтай хэрэглээтэй хэдий ч deepfake нь нийгэм, улс төр, хувь хүнд ноцтой эрсдэл дагуулдаг. Хамгийн санаа зовоосон тал нь дижитал медиад итгэх итгэлийг сулруулах чадвар юм.

Түүхэндээ гэрэл зураг, видеог хүчтэй нотлох баримт гэж үздэг байсан. Deepfake нь бодит мэт хуурамч зүйлийг энгийн хэрэглэгчдэд хүртээмжтэй болгосноор энэ итгэлийг сулруулж байна. Синтетик медиа түгээмэл болохын хэрээр хүмүүс юу жинхэнэ болохыг ялгахад бэрхшээж магадгүй.

• Улс төрийн худал мэдээлэл бол томоохон асуудал. Улс төрийн удирдагчийг өдөөн хатгасан мэдэгдэл хийж байгаа мэт зохиомол видео худал нь илрэхээс өмнө онлайнд хурдан тархаж болно. Хожим худал нь нотлогдсон ч ийм агуулга олон нийтийн санаа бодол, сонгууль, нийгмийн тогтвортой байдалд нөлөөлж магадгүй.
• Deepfake нь сэтгүүлзүйд ч эрсдэл учруулдаг. Мэдээллийн байгууллагууд дүрс бичлэгийг бодит цагт баталгаажуулахад улам их бэрхшээлтэй тулгарч байна. Үйл явдал хурдан өрнөх үед баримт шалгагчид хариу өгөхөөс өмнө засварласан видео өргөн тархаж болно.
• Санхүүгийн луйвар бас өсөн нэмэгдэж буй аюул. Гэмт этгээдүүд AI-аар бүтээсэн дуу хоолойгоор компанийн удирдлагын нэрийг барьж утсаар ярьж, ажилтнуудыг мөнгө шилжүүлэх эсвэл нууц мэдээлэл задруулахыг ятгасан тохиолдол гарсан.
• Хувь хүнийг дарамтлах, мөлжих нь адил ноцтой асуудал. Зөвшөөрөлгүй бүтээсэн илэн далангүй deepfake агуулга нь ялангуяа эмэгтэйчүүдэд нөлөөлж буй ёс зүй, хуулийн томоохон асуудал болоод байна. Агуулга бүхэлдээ зохиомол байсан ч хохирогчид нэр хүндээ унагах, сэтгэл санааны хямрал, хувийн нууцын зөрчилд өртөж болно.
• Судлаачдын «худалч хүний ашиг» (liar's dividend) гэж нэрлэдэг аюул бас бий. Deepfake түгээмэл болохын хэрээр буруутгагдсан хүмүүс жинхэнэ нотлох баримтыг хуурамч гэж няцааж болно. Өөрөөр хэлбэл deepfake технологи байгаа нь жинхэнэ бичлэгт ч эргэлзээ төрүүлж болно.
• Сэтгэл зүйн нөлөө ч их. Засварласан агуулгад байнга өртөх нь олон нийтийн эргэлзээг нэмэгдүүлж, байгууллага, хэвлэл мэдээлэл, онлайн харилцаанд итгэх итгэлийг ерөнхийд нь бууруулж болзошгүй.

Deepfake-ийг илрүүлэх

Deepfake улам боловсронгуй болж байгаа тул судлаачид болон технологийн компаниуд синтетик медиаг таних хэрэгсэл хөгжүүлж байна.

Эхэн үеийн илрүүлэх системүүд ер бусын нүд ирмэлт, гажуудсан нүүрний хөдөлгөөн, таарахгүй гэрэлтүүлэг зэрэг дүрсийн зөрчилд анхаардаг байв. Гэвч шинэ deepfake-үүд эдгээр согогийн ихэнхийг багасгасан.

Орчин үеийн илрүүлэх аргууд AI-д өөрт нь ихээхэн тулгуурладаг. Машин сургалтын загварууд хүний нүдэнд үл харагдах нарийн зүй тогтол — нүүрэн дээрх тусгалын зөрүү, шахалтын (compression) ул мөр, биологийн дохио, ярианы тааралдааны зөрчлийг шинжилдэг.

Зарим байгууллага дижитал усан тэмдэг (watermark), агуулгыг баталгаажуулах системийг ч судалж байна. Эдгээр арга медиа итгэмжлэгдсэн төхөөрөмжөөс гарсан эсэх, эсвэл бүтээгдсэний дараа өөрчлөгдсөн эсэхийг баталгаажуулах зорилготой.

Технологийн компаниуд болон сошиал медиа платформууд худал мэдээлэл, хортой синтетик агуулгатай тэмцэхийн тулд илрүүлэх системд улам их хөрөнгө оруулж байна. Жишээ нь, Bitdefender RealCheck нь хууран мэхлэх, луйвардах зорилгоор хиймэл оюун ухаанаар өөрчилсөн видеог хэрэглэгчдэд танихад тусалдаг.

Гэхдээ энэ нь тасралтгүй үргэлжлэх технологийн уралдаан юм: илрүүлэлт сайжрахын хэрээр үүсгэх арга ч сайжирдаг.

Хүний ухамсар адил чухал хэвээр байна. Бодит мэт хуурамч зүйл хурдан тархдаг дижитал орчинд медиа бичиг үсэг, шүүмжлэлт сэтгэлгээ, эх сурвалжийг шалгах чадвар зайлшгүй шаардлагатай.

Хууль эрх зүй, ёс зүйн сорилтууд

Хууль тогтоомж технологийн шинэчлэлтэй хөл нийлүүлэхэд ихэвчлэн хүндрэлтэй байдаг тул deepfake хууль эрх зүй, ёс зүйн хүнд асуулт дагуулдаг.

Гол асуудлын нэг нь зөвшөөрөл. Хувь хүн өөрийн дүр төрх, дуу хоолой, дижитал таниулбарыг хуулиар эзэмших эрхтэй байх ёстой юу? Хэн нэгний дүрс, дуу хоолойг зөвшөөрөлгүй, ялангуяа төөрөгдүүлэх эсвэл хор хохирол учруулах зорилгоор ашиглах нь хувь хүний эрхийг зөрчинө гэж олон хүн үздэг.

Deepfake худал дүрслэлээр хүний нэр хүндэд хохирол учруулбал гүтгэлгийн тухай хууль үйлчилж болно. Гэхдээ хууль эрх зүйн тогтолцоо хор хөнөөлөөс хамгаалах болон үзэл бодлоо илэрхийлэх эрх чөлөө, егөөдөл, уран бүтээлийн эрх чөлөөний хооронд тэнцвэр барих ёстой.

Дэлхийн улс орнууд хортой deepfake, ялангуяа сонгуульд хөндлөнгөөс оролцох, луйвар, зөвшөөрөлгүй илэн далангүй агуулгатай холбоотой зохицуулалт нэвтрүүлж эхэлсэн. Гэсэн хэдий ч синтетик медиаг нэрээ нууцлан бүтээж, хэдхэн минутад дэлхий даяар тарааж болох тул хэрэгжүүлэхэд хэцүү хэвээр байна.

Технологийн компаниуд ч ёс зүйн хариуцлага хүлээдэг. Платформууд цензур эсвэл улс төрийн хэвийсэн байдлаас зайлсхийхийн зэрэгцээ AI-аар бүтээсэн агуулгыг хэр хатуу хянахаа шийдэх ёстой. Ил тод байдлын бодлого, шошголох систем, баталгаажуулалтын стандартыг боломжит шийдэл гэж улам их хэлэлцэж байна.

Ёс зүйн маргаан илүү өргөн философийн асуудал руу ч хүрдэг. Хэрэв AI хүний таниулбарыг төгс дуурайж чадвал нийгэм жинхэнэ байдал, нотлох баримт, итгэлийн талаарх уламжлалт ойлголтоо эргэн харах шаардлагатай болж магадгүй.

Deepfake ба нийгмийн ирээдүй

Deepfake технологи хурдацтай хөгжсөөр байгаа бөгөөд ирээдүйн нөлөө нь одоогийн жишээнүүдээс хамаагүй их байж магадгүй. Үүсгэгч AI систем сайжрахын хэрээр синтетик медиа улам бодит, хүртээмжтэй болж, өдөр тутмын амьдралд улам гүн нэвтэрнэ.

Ойрын ирээдүйд AI-аар бүтээсэн аватарууд үйлчлүүлэгчийн үйлчилгээг хариуцаж, дижитал туслахууд маш байгалийн яриагаар харилцаж, виртуал инфлюэнсерүүд улам түгээмэл болж магадгүй. Агуулга хэрэглэгч бүрт тохируулан өөрчлөгддөг хувийн медиа туршлага өргөн дэлгэрч болно.

Үүний зэрэгцээ нийгэм зарим судлаачийн хэлснээр «үнэний дараах дүрсийн эрин» рүү орж, нүдээр харах нь итгэхтэй адил байхаа больж магадгүй. Энэ өөрчлөлт сэтгүүлзүй, хууль сахиулах, боловсрол, улс төрийн харилцааг үндсээр нь өөрчилж болзошгүй.

Боловсролын систем дижитал бичиг үсэг, эх сурвалж шалгахад илүү анхаарах шаардлагатай болж магадгүй. Иргэдэд мэдээллийг зөвхөн хэрэглэх бус, түүний жинхэнэ эсэх, нөхцөл байдлыг шүүмжлэлтэйгээр үнэлэх чадвар улам их хэрэгтэй болно.

Зөвхөн технологийн шийдлээр deepfake-ийн асуудлыг бүрэн шийдэх магадлал бага. Буруугаар ашиглахтай тэмцэхийн тулд засгийн газар, технологийн компани, судлаач, багш, сэтгүүлч болон олон нийтийн хамтын ажиллагаа шаардлагатай.

Хамгийн чухал нь нийгмийн хариу үйлдлийг зөвхөн айдас тодорхойлох ёсгүй. Гэрэл зургаас эхлээд интернэт хүртэлх олон хувьсгалт технологи боломж ба эрсдэлийг хамт авчирсан. Deepfake бол хиймэл оюун ухаанаар хөтлөгдөж буй хүн төрөлхтний харилцааны өргөн хувьслын нэг хэсэг юм.