តើ AI បានទៅឆ្ងាយពេកហើយឬនៅ?

ចម្លើយខ្លី៖ បញ្ញាសិប្បនិម្មិត (AI) បានទៅឆ្ងាយពេកហើយ នៅពេលដែលវាត្រូវបានដាក់ពង្រាយនៅក្នុងការសម្រេចចិត្តដែលមានហានិភ័យខ្ពស់ ការឃ្លាំមើល ឬការបញ្ចុះបញ្ចូលដោយគ្មានដែនកំណត់ច្បាស់លាស់ ការយល់ព្រមដោយមានព័ត៌មានគ្រប់គ្រាន់ និងសិទ្ធិពិតប្រាកដក្នុងការប្តឹងឧទ្ធរណ៍។ វាឆ្លងកាត់ព្រំដែនម្តងទៀត នៅពេលដែលការក្លែងបន្លំជ្រៅៗ និងការបោកប្រាស់ដែលអាចធ្វើមាត្រដ្ឋានបានធ្វើឱ្យការជឿទុកចិត្តមានអារម្មណ៍ដូចជាល្បែងស៊ីសង។ ប្រសិនបើមនុស្សមិនអាចប្រាប់ថា បញ្ញាសិប្បនិម្មិត (AI) បានដើរតួនាទី មិនអាចយល់ថាហេតុអ្វីបានជាការសម្រេចចិត្តមួយបានជោគជ័យតាមរបៀបដែលវាបានធ្វើ ឬមិនអាចជ្រើសរើសចេញបាន វាឆ្ងាយពេកហើយ។

ចំណុចសំខាន់ៗ៖

ព្រំដែន៖ កំណត់អ្វីដែលប្រព័ន្ធមិនអាចធ្វើបាន ជាពិសេសនៅពេលដែលភាពមិនប្រាកដប្រជាខ្ពស់។

ការទទួលខុសត្រូវ៖ ធានាថាមនុស្សអាចជំនួសលទ្ធផលដោយគ្មានការពិន័យ ឬអន្ទាក់សម្ពាធពេលវេលា។

តម្លាភាព៖ ប្រាប់មនុស្សនៅពេលដែល AI ពាក់ព័ន្ធ និងមូលហេតុដែលវាឈានដល់ការសម្រេចចិត្តរបស់វា។

ភាពអាចប្រកួតប្រជែងបាន៖ ផ្តល់ផ្លូវប្តឹងឧទ្ធរណ៍ដែលរហ័ស និងអាចអនុវត្តបាន និងវិធីច្បាស់លាស់ដើម្បីកែតម្រូវទិន្នន័យមិនល្អ។

ភាពធន់នឹងការប្រើប្រាស់ខុស៖ បន្ថែមប្រភពដើម ដែនកំណត់អត្រា និងការគ្រប់គ្រង ដើម្បីទប់ស្កាត់ការបោកប្រាស់ និងការរំលោភបំពាន។

«តើ AI បានទៅឆ្ងាយពេកហើយឬនៅ?»

ផ្នែកចម្លែកមួយគឺថា ការឆ្លងកាត់បន្ទាត់មិនតែងតែច្បាស់លាស់នោះទេ។ ពេលខ្លះវាខ្លាំងៗ និងភ្លឺចែងចាំង ដូចជាការបោកប្រាស់ Deepfake។ (FTC, FBI) ​​ពេលខ្លះវាស្ងាត់ៗ - ការសម្រេចចិត្តដោយស្វ័យប្រវត្តិដែលរុញជីវិតរបស់អ្នកទៅចំហៀងដោយគ្មានការពន្យល់អ្វីទាំងអស់ ហើយអ្នកមិនដឹងថាអ្នកត្រូវបាន "ដាក់ពិន្ទុ" នោះទេ។ (UK ICO, GDPR Art. 22)

ដូច្នេះ... តើ AI បានទៅឆ្ងាយពេកហើយឬនៅ? នៅកន្លែងខ្លះ មែនហើយ។ នៅកន្លែងផ្សេងទៀត វាមិនទាន់បានទៅឆ្ងាយគ្រប់គ្រាន់ទេ - ពីព្រោះវាកំពុងត្រូវបានប្រើប្រាស់ដោយគ្មានរបាំងសុវត្ថិភាពដែលមិនទាក់ទាញ ប៉ុន្តែចាំបាច់ ដែលធ្វើឱ្យឧបករណ៍មានឥរិយាបទដូចជាឧបករណ៍ជំនួសឱ្យកង់រ៉ូឡែត ជាមួយនឹង UI ដែលងាយស្រួលប្រើ។ 🎰🙂 (NIST AI RMF 1.0, EU AI Act)

អត្ថបទដែលអ្នកប្រហែលជាចង់អានបន្ទាប់ពីអត្ថបទនេះ៖

🔗 ហេតុអ្វីបានជា AI អាចបង្កគ្រោះថ្នាក់ដល់សង្គម
ហានិភ័យសង្គមសំខាន់ៗ៖ ភាពលំអៀង ការងារ ភាពឯកជន និងការប្រមូលផ្តុំអំណាច។.

🔗 តើ AI អាក្រក់សម្រាប់បរិស្ថានទេ? ផលប៉ះពាល់ដែលលាក់កំបាំង
របៀបដែលការបណ្តុះបណ្តាល មជ្ឈមណ្ឌលទិន្នន័យ និងការប្រើប្រាស់ថាមពលបង្កើនការបំភាយឧស្ម័ន។.

🔗 តើ AI ល្អឬអាក្រក់? គុណសម្បត្តិ និងគុណវិបត្តិ
ទិដ្ឋភាពទូទៅដែលមានតុល្យភាពនៃអត្ថប្រយោជន៍ ហានិភ័យ និងការសម្របសម្រួលក្នុងពិភពពិត។.

🔗 ហេតុអ្វីបានជា AI ត្រូវបានគេចាត់ទុកថាអាក្រក់៖ ផ្នែកងងឹត
ស្វែងយល់ពីការប្រើប្រាស់ខុស ការរៀបចំ ការគំរាមកំហែងសន្តិសុខ និងកង្វល់ផ្នែកសីលធម៌។.

---

តើមនុស្សចង់មានន័យយ៉ាងណានៅពេលពួកគេនិយាយថា "តើ AI បានទៅឆ្ងាយពេកហើយឬនៅ?" 😬

មនុស្សភាគច្រើនមិនបានសួរថាតើ AI ជា "មានវិញ្ញាណ" ឬ "កំពុងគ្រប់គ្រង" នោះទេ។ ពួកគេកំពុងចង្អុលទៅមួយក្នុងចំណោមទាំងនេះ៖

• បញ្ញាសិប្បនិម្មិត (AI) កំពុងត្រូវបានប្រើប្រាស់នៅកន្លែងដែលវាមិនគួរត្រូវបានប្រើប្រាស់។ (ជាពិសេសការសម្រេចចិត្តដែលមានហានិភ័យខ្ពស់)។ (ឧបសម្ព័ន្ធទី III នៃច្បាប់បញ្ញាសិប្បនិម្មិតរបស់សហភាពអឺរ៉ុប (EU AI Act, GDPR Art. 22)

• បញ្ញាសិប្បនិម្មិត (AI) កំពុងត្រូវបានប្រើប្រាស់ដោយគ្មានការយល់ព្រម។ (ទិន្នន័យរបស់អ្នក សំឡេងរបស់អ្នក មុខរបស់អ្នក... គួរឱ្យភ្ញាក់ផ្អើល។) (UK ICO, GDPR Art. 5)

• បញ្ញាសិប្បនិម្មិត (AI) កំពុង​តែ​ពូកែ​ពេក​ក្នុង​ការ​រៀបចំ​ការ​យក​ចិត្ត​ទុក​ដាក់។ (Feeds + ការ​ធ្វើ​ឲ្យ​មាន​លក្ខណៈ​ផ្ទាល់​ខ្លួន + ស្វ័យប្រវត្តិកម្ម = ស្អិត)។ (គោលការណ៍ AI របស់ OECD)

• បញ្ញាសិប្បនិម្មិត (AI) កំពុងធ្វើឱ្យការពិតមានអារម្មណ៍ថាជាជម្រើស។ (ការក្លែងបន្លំដោយប្រើបច្ចេកវិទ្យាឌីជីថល (Deepfakes) ការវាយតម្លៃក្លែងក្លាយ និង "អ្នកជំនាញ" សំយោគ។) (គណៈកម្មការអឺរ៉ុប, FTC, C2PA)

• បញ្ញាសិប្បនិម្មិត (AI) កំពុងប្រមូលផ្តុំអំណាច។ (ប្រព័ន្ធមួយចំនួនកំពុងបង្កើតអ្វីដែលមនុស្សគ្រប់គ្នាឃើញ និងអាចធ្វើបាន។) (UK CMA)

នោះជាបេះដូងនៃ "តើ AI បានទៅឆ្ងាយពេកហើយឬនៅ?" វាមិនមែនជាពេលវេលាតែមួយនោះទេ។ វាគឺជាគំនរនៃការលើកទឹកចិត្ត ផ្លូវកាត់ និងការគិត "យើងនឹងជួសជុលវានៅពេលក្រោយ" - ដែលនិយាយឱ្យត្រង់ទៅ ងាយនឹងបកប្រែទៅជា "យើងនឹងជួសជុលវាបន្ទាប់ពីនរណាម្នាក់រងរបួស"។ 😑

---

ការពិតមិនអាថ៌កំបាំងប៉ុន្មានទេ៖ បញ្ញាសិប្បនិម្មិត (AI) គឺជាអ្នកគុណ មិនមែនជាអ្នកដើរតួខាងសីលធម៌ទេ 🔧✨

បញ្ញាសិប្បនិម្មិតមិនភ្ញាក់ឡើង ហើយសម្រេចចិត្តបង្កគ្រោះថ្នាក់នោះទេ។ មនុស្ស និងអង្គការនានាផ្តោតលើវា។ ប៉ុន្តែវាបង្កើនចំនួនអ្វីក៏ដោយដែលអ្នកចិញ្ចឹមវា៖

• ចេតនាមានប្រយោជន៍ក្លាយជា មានប្រយោជន៍យ៉ាងខ្លាំង (ការបកប្រែ ភាពងាយស្រួលចូលដំណើរការ ការសង្ខេប ការសម្គាល់គំរូវេជ្ជសាស្ត្រ)។

• ចេតនាមិនប្រុងប្រយ័ត្នក្លាយជា មិនប្រុងប្រយ័ត្នយ៉ាងខ្លាំង (ភាពលំអៀងក្នុងទ្រង់ទ្រាយធំ ស្វ័យប្រវត្តិកម្មនៃកំហុស)។

• ចេតនាអាក្រក់ក្លាយជា អាក្រក់យ៉ាងខ្លាំង (ការក្លែងបន្លំ ការយាយី ការឃោសនា ការក្លែងបន្លំ)។

វាដូចជាការផ្តល់មេក្រូហ្វូនដល់ក្មេងតូចម្នាក់។ ពេលខ្លះក្មេងតូចច្រៀង... ពេលខ្លះក្មេងតូចស្រែកដោយផ្ទាល់ទៅក្នុងព្រលឹងអ្នក។ មិនមែនជាពាក្យប្រៀបធៀបដ៏ល្អឥតខ្ចោះទេ - គួរឱ្យអស់សំណើចបន្តិច - ប៉ុន្តែចំណុចសំខាន់គឺ 😅📢។.

---

តើ​អ្វី​ទៅ​ដែល​ធ្វើ​ឱ្យ​ AI មាន​កំណែ​ល្អ​ក្នុង​ការ​ប្រើប្រាស់​ប្រចាំថ្ងៃ? ✅🤝

«កំណែល្អ» របស់ AI មិនត្រូវបានកំណត់ដោយភាពឆ្លាតវៃរបស់វានោះទេ។ វាត្រូវបានកំណត់ដោយរបៀបដែលវាមានឥរិយាបទល្អក្រោមសម្ពាធ ភាពមិនប្រាកដប្រជា និងការល្បួង (ហើយមនុស្សត្រូវបានល្បួងយ៉ាងខ្លាំងដោយស្វ័យប្រវត្តិកម្មថោកៗ)។ (NIST AI RMF 1.0, OECD)

នេះជាអ្វីដែលខ្ញុំរកមើលនៅពេលដែលនរណាម្នាក់អះអាងថាការប្រើប្រាស់ AI របស់ពួកគេមានទំនួលខុសត្រូវ៖

១) ព្រំដែនច្បាស់លាស់

• តើប្រព័ន្ធត្រូវបានអនុញ្ញាតឱ្យធ្វើអ្វី?

• តើ​អ្វី​ទៅ​ដែល​ហាមឃាត់​យ៉ាង​ច្បាស់លាស់​មិន​ឲ្យ​ធ្វើ?

• តើមានអ្វីកើតឡើងនៅពេលដែលវាមិនប្រាកដ?

២) ការទទួលខុសត្រូវរបស់មនុស្សដែលជាការពិត មិនមែនជាការតុបតែងលម្អទេ

លទ្ធផល "ពិនិត្យឡើងវិញ" របស់មនុស្សមានសារៈសំខាន់លុះត្រាតែ៖

• ពួកគេយល់ពីអ្វីដែលពួកគេកំពុងពិនិត្យឡើងវិញ ហើយ

• ពួកគេអាចជំនួសវាដោយមិនចាំបាច់ត្រូវបានដាក់ទណ្ឌកម្មចំពោះការធ្វើឱ្យយឺតយ៉ាវ។.

៣) សមត្ថភាពក្នុងការពន្យល់នៅកម្រិតត្រឹមត្រូវ

មិនមែនគ្រប់គ្នាសុទ្ធតែត្រូវការគណិតវិទ្យានោះទេ។ មនុស្សពិតជាត្រូវការ៖

• មូលហេតុចម្បងនៅពីក្រោយការសម្រេចចិត្តមួយ,

• ទិន្នន័យអ្វីខ្លះដែលត្រូវបានប្រើប្រាស់

• របៀបប្តឹងឧទ្ធរណ៍ កែតម្រូវ ឬជ្រើសរើសមិនចូលរួម។ (UK ICO)

៤) ការអនុវត្តដែលអាចវាស់វែងបាន - រួមទាំងរបៀបបរាជ័យ

មិនត្រឹមតែ "ភាពត្រឹមត្រូវ" ប៉ុណ្ណោះទេ ប៉ុន្តែថែមទាំង៖

• អ្នកណាដែលវាបរាជ័យ

• តើវាបរាជ័យដោយស្ងៀមស្ងាត់ញឹកញាប់ប៉ុណ្ណា

• តើមានអ្វីកើតឡើងនៅពេលដែលពិភពលោកផ្លាស់ប្តូរ។ (NIST AI RMF 1.0)

៥) ភាពឯកជន និងការយល់ព្រមដែលមិនត្រូវបាន «កប់នៅក្នុងការកំណត់»

ប្រសិនបើការយល់ព្រមតម្រូវឱ្យមានការបរបាញ់កំណប់តាមរយៈម៉ឺនុយ… វាមិនមែនជាការយល់ព្រមទេ។ វាជាចន្លោះប្រហោងដែលមានជំហានបន្ថែម 😐🧾។ (GDPR មាត្រា 5, UK ICO)

---

តារាងប្រៀបធៀប៖ វិធីជាក់ស្តែងដើម្បីបញ្ឈប់ AI ពីការទៅឆ្ងាយពេក 🧰📊

ខាងក្រោមនេះគឺជា “ជម្រើសកំពូលៗ” ក្នុងន័យថា ពួកវាគឺជារបាំងការពារទូទៅ ឬឧបករណ៍ប្រតិបត្តិការដែលផ្លាស់ប្តូរលទ្ធផល (មិនមែនគ្រាន់តែភាពរំជើបរំជួលប៉ុណ្ណោះទេ)។.

ឧបករណ៍ / ជម្រើស	ទស្សនិកជន	តម្លៃ	ហេតុអ្វីបានជាវាដំណើរការ
ការពិនិត្យឡើងវិញដោយមនុស្សនៅក្នុងរង្វង់ (ច្បាប់ AI របស់សហភាពអឺរ៉ុប)	ក្រុម​ដែល​ធ្វើការ​ហៅ​ទូរសព្ទ​ដែល​មាន​ហានិភ័យ​ខ្ពស់	££ (ថ្លៃដើមពេលវេលា)	ធ្វើឱ្យស្វ័យប្រវត្តិកម្មមិនល្អថយចុះ។ ម្យ៉ាងទៀត មនុស្សអាចកត់សម្គាល់ឃើញករណីគែមចម្លែកៗ ជួនកាល…
ដំណើរការប្តឹងឧទ្ធរណ៍លើការសម្រេចចិត្ត (GDPR មាត្រា 22)	អ្នកប្រើប្រាស់ដែលរងផលប៉ះពាល់ដោយការសម្រេចចិត្តរបស់ AI	សេរី	បន្ថែមដំណើរការត្រឹមត្រូវ។ មនុស្សអាចកែទិន្នន័យខុស - ស្តាប់ទៅដូចជាមូលដ្ឋានព្រោះវាជាមូលដ្ឋាន
កំណត់ហេតុ​សវនកម្ម + ភាពអាចតាមដានបាន (NIST SP 800-53)	ការអនុលោមតាមច្បាប់ ប្រតិបត្តិការ សុវត្ថិភាព	£-££	អនុញ្ញាតឱ្យអ្នកឆ្លើយថា "មានអ្វីកើតឡើង?" បន្ទាប់ពីការបរាជ័យ ជំនួសឱ្យការងក់ក្បាល
ការវាយតម្លៃគំរូ + ការធ្វើតេស្តភាពលំអៀង (NIST AI RMF 1.0)	ក្រុមផលិតផល + ហានិភ័យ	ប្រែប្រួលច្រើន	ចាប់យកគ្រោះថ្នាក់ដែលអាចទាយទុកជាមុនបានតាំងពីដំបូង។ មិនល្អឥតខ្ចោះទេ ប៉ុន្តែប្រសើរជាងការទាយទុកជាមុន
ការធ្វើតេស្តក្រុមក្រហម (ទម្រង់ NIST GenAI)	សន្តិសុខ + សន្តិសុខ	£££	ធ្វើត្រាប់តាមការប្រើប្រាស់ខុសមុនពេលអ្នកវាយប្រហារពិតប្រាកដធ្វើ។ មិនសប្បាយចិត្តទេ ប៉ុន្តែវាមានតម្លៃ 😬
ការបង្រួមអប្បបរមាទិន្នន័យ (ICO ចក្រភពអង់គ្លេស)	មនុស្សគ្រប់គ្នា និយាយដោយស្មោះត្រង់	£	ទិន្នន័យតិចជាង = ភាពរញ៉េរញ៉ៃតិចជាង។ ការរំលោភបំពានតិចជាង ការសន្ទនាឆ្គងតិចជាង
សញ្ញាប្រភពនៃខ្លឹមសារ (C2PA)	វេទិកា ប្រព័ន្ធផ្សព្វផ្សាយ និងអ្នកប្រើប្រាស់	£-££	ជួយផ្ទៀងផ្ទាត់ថា "តើមនុស្សបង្កើតរឿងនេះមែនទេ?" - មិនមែនជារឿងមិនសមហេតុផលទេ ប៉ុន្តែកាត់បន្ថយភាពវឹកវរ
ដែនកំណត់អត្រា + ការគ្រប់គ្រងការចូលប្រើ (OWASP)	អ្នកផ្តល់សេវា AI + សហគ្រាស	£	បញ្ឈប់ការរំលោភបំពានពីការធ្វើមាត្រដ្ឋានភ្លាមៗ។ ដូចជាការបង្កើនល្បឿនសម្រាប់តួអង្គអាក្រក់

មែនហើយ តុនេះមិនស្មើគ្នាបន្តិច។ នោះហើយជាជីវិត។ 🙂

---

បញ្ញាសិប្បនិម្មិត (AI) ក្នុងការសម្រេចចិត្តដែលមានហានិភ័យខ្ពស់៖ នៅពេលដែលវាទៅឆ្ងាយពេក 🏥🏦⚖️

នេះជាកន្លែងដែលរឿងរ៉ាវកាន់តែធ្ងន់ធ្ងរឡើងយ៉ាងឆាប់រហ័ស។.

បញ្ញាសិប្បនិម្មិត (AI) ក្នុង វិស័យថែទាំ សុខភាព ហិរញ្ញវត្ថុ លំនៅឋាន ការងារ ការអប់រំ អន្តោប្រវេសន៍ យុត្តិធម៌ ព្រហ្មទណ្ឌ - ទាំងនេះគឺជាប្រព័ន្ធដែល៖ ( ឧបសម្ព័ន្ធទី III ច្បាប់បញ្ញាសិប្បនិម្មិតរបស់សហភាពអឺរ៉ុប ( EU AI Act , FDA )

• កំហុសអាចធ្វើឱ្យនរណាម្នាក់បាត់បង់ប្រាក់ សេរីភាព សេចក្តីថ្លៃថ្នូរ ឬសុវត្ថិភាព

• ហើយអ្នកដែលរងផលប៉ះពាល់ច្រើនតែមានអំណាចមានកំណត់ក្នុងការប្រយុទ្ធប្រឆាំងនឹងវា។.

ហានិភ័យដ៏ធំមិនមែន «បញ្ញាសិប្បនិម្មិត (AI) ធ្វើខុស» នោះទេ។ ហានិភ័យដ៏ធំគឺ កំហុសបញ្ញាសិប្បនិម្មិត (AI) ក្លាយជាគោលនយោបាយ។ (NIST AI RMF 1.0)

អ្វីដែល "ឆ្ងាយពេក" មើលទៅដូចនៅទីនេះ

• ការសម្រេចចិត្តដោយស្វ័យប្រវត្តិដោយគ្មានការពន្យល់៖ “កុំព្យូទ័រនិយាយថាទេ” (UK ICO)

• «ពិន្ទុហានិភ័យ» ត្រូវបានចាត់ទុកដូចជាការពិតជំនួសឱ្យការស្មាន។.

• មនុស្សដែលមិនអាចយកឈ្នះលើលទ្ធផលបាន ដោយសារតែការគ្រប់គ្រងចង់បានល្បឿន។.

• ទិន្នន័យដែលមិនស្អាតស្អំ លំអៀង ហួសសម័យ ឬគ្រាន់តែខុសទាំងស្រុង។.

អ្វីដែលមិនគួរចរចា

• សិទ្ធិក្នុងការប្តឹងឧទ្ធរណ៍ (រហ័ស អាចយល់បាន មិនមែនជារឿងច្របូកច្របល់)។ (GDPR មាត្រា 22, UK ICO)

• សិទ្ធិក្នុងការដឹង ថា AI មានជាប់ពាក់ព័ន្ធ។ (គណៈកម្មការអឺរ៉ុប)

• ការពិនិត្យឡើងវិញដោយមនុស្ស សម្រាប់លទ្ធផលជាបន្តបន្ទាប់។ (NIST AI RMF 1.0)

• ការគ្រប់គ្រងគុណភាពលើទិន្នន័យ - ពីព្រោះសំរាមចូល សំរាមចេញនៅតែជាការពិត។

ប្រសិនបើអ្នកកំពុងព្យាយាមគូសបន្ទាត់ស្អាតមួយ នេះជាចំណុចមួយ៖
ប្រសិនបើប្រព័ន្ធ AI អាចផ្លាស់ប្តូរជីវិតរបស់នរណាម្នាក់បានយ៉ាងសំខាន់ វាត្រូវការភាពធ្ងន់ធ្ងរដូចគ្នាដែលយើងរំពឹងទុកពីអាជ្ញាធរផ្សេងទៀត។ គ្មាន "ការសាកល្បងបែតា" លើមនុស្សដែលមិនបានចុះឈ្មោះទេ។ 🚫

---

ការបន្លំ​បែប Deepfakes ការបោកប្រាស់ និងការស្លាប់យឺតៗនៃពាក្យថា "ខ្ញុំទុកចិត្តភ្នែករបស់ខ្ញុំ" 👀🧨

នេះ​ជា​ផ្នែក​មួយ​ដែល​ធ្វើ​ឱ្យ​ជីវិត​ប្រចាំថ្ងៃ​មាន​អារម្មណ៍​ថា… រអិល។.

ពេលដែល AI អាចបង្កើត៖

• សារសំឡេងដែលស្តាប់ទៅដូចជាសមាជិកគ្រួសាររបស់អ្នក (FTC, FBI)

• វីដេអូរបស់បុគ្គលសាធារណៈម្នាក់ «កំពុងនិយាយ» អ្វីមួយ

• ការវាយតម្លៃក្លែងក្លាយជាច្រើនដែលមើលទៅដូចជាត្រឹមត្រូវគ្រប់គ្រាន់ (FTC)

• ប្រវត្តិរូប LinkedIn ក្លែងក្លាយ ដែលមានប្រវត្តិការងារក្លែងក្លាយ និងមិត្តភក្តិក្លែងក្លាយ…

...វាមិនត្រឹមតែអាចឱ្យមានការបោកប្រាស់ប៉ុណ្ណោះទេ។ វាធ្វើឱ្យចំណងសង្គមដែលអនុញ្ញាតឱ្យមនុស្សចម្លែកសម្របសម្រួលចុះខ្សោយ។ ហើយសង្គមដំណើរការដោយមនុស្សចម្លែកសម្របសម្រួល។ 😵💫

«ឆ្ងាយពេក» មិនមែនគ្រាន់តែជាខ្លឹមសារក្លែងក្លាយនោះទេ

វាគឺជា ភាពមិនស៊ីមេទ្រី៖

• វាថោកណាស់ក្នុងការបង្កើតការកុហក។.

• វាថ្លៃ ហើយយឺតក្នុងការផ្ទៀងផ្ទាត់ការពិត។.

• ហើយមនុស្សភាគច្រើនរវល់ អស់កម្លាំង និងរមូរចុះក្រោម។.

អ្វីដែលជួយ (បន្តិចបន្តួច)

• សញ្ញាសម្គាល់ប្រភពសម្រាប់មេឌៀ។ (C2PA)

• ការកកិតចំពោះភាពជាវីរុស - ធ្វើឱ្យការចែករំលែកដ៏ធំភ្លាមៗថយចុះ។.

• ការផ្ទៀងផ្ទាត់អត្តសញ្ញាណកាន់តែប្រសើរឡើងនៅកន្លែងដែលវាមានសារៈសំខាន់ (ហិរញ្ញវត្ថុ សេវាកម្មរដ្ឋាភិបាល)។.

• ទម្លាប់​ «ផ្ទៀងផ្ទាត់​ក្រៅ​កម្រិត» ជាមូលដ្ឋានសម្រាប់បុគ្គលម្នាក់ៗ (ហៅត្រឡប់មកវិញ ប្រើពាក្យសម្ងាត់ បញ្ជាក់តាមរយៈឆានែលផ្សេងទៀត)។ (FTC)

មិន​ទាក់ទាញ​ទេ។ ប៉ុន្តែ​ខ្សែក្រវាត់​សុវត្ថិភាព​ក៏​មិន​ដូច្នោះ​ដែរ ហើយ​ខ្ញុំ​ផ្ទាល់​ចូលចិត្ត​វា​ណាស់។ 🚗

---

ការឃ្លាំមើលដ៏ចម្លែក៖ នៅពេលដែល AI ប្រែក្លាយអ្វីៗគ្រប់យ៉ាងទៅជាឧបករណ៍ចាប់សញ្ញាដោយស្ងាត់ៗ 📷🫥

មួយនេះមិនផ្ទុះដូច deepfake ទេ។ វាគ្រាន់តែរាលដាលប៉ុណ្ណោះ។.

បច្ចេកវិទ្យា AI ធ្វើឱ្យវាងាយស្រួលក្នុងការ៖

• កំណត់អត្តសញ្ញាណមុខនៅក្នុងហ្វូងមនុស្ស (ច្បាប់ EU AI, NIST FRVT)

• លំនាំចលនាតាមដាន,

• សន្និដ្ឋានអារម្មណ៍ពីវីដេអូ (ជារឿយៗមិនល្អ ប៉ុន្តែមានទំនុកចិត្ត) (Barrett et al., 2019, EU AI Act)

• ទស្សន៍ទាយ “ហានិភ័យ” ដោយផ្អែកលើឥរិយាបថ… ឬបរិយាកាសនៃសង្កាត់របស់អ្នក។.

ហើយសូម្បីតែពេលដែលវាមិនត្រឹមត្រូវក៏ដោយ វានៅតែអាចបង្កគ្រោះថ្នាក់ ពីព្រោះវាអាចបង្ហាញអំពីភាពត្រឹមត្រូវនៃអន្តរាគមន៍។ ការទស្សន៍ទាយខុសនៅតែអាចបង្កឱ្យមានផលវិបាកពិតប្រាកដ។.

ចំណុចមិនស្រួលខ្លួន

ការឃ្លាំមើលដែលដំណើរការដោយ AI ជារឿយៗត្រូវបានរុំព័ទ្ធដោយរឿងរ៉ាវសុវត្ថិភាព៖

• «វាសម្រាប់ការពារការក្លែងបន្លំ»។

• «វាសម្រាប់សន្តិសុខ»។

• "វាសម្រាប់បទពិសោធន៍អ្នកប្រើប្រាស់"

ពេលខ្លះវាជាការពិត។ ពេលខ្លះវាក៏ជាលេសងាយស្រួលសម្រាប់ការសាងសង់ប្រព័ន្ធដែលពិបាករុះរើនៅពេលក្រោយដែរ។ ដូចជាការដំឡើងទ្វារមួយផ្លូវនៅក្នុងផ្ទះរបស់អ្នកផ្ទាល់ ព្រោះវាហាក់ដូចជាមានប្រសិទ្ធភាពនៅពេលនោះ។ ជាថ្មីម្តងទៀត វាមិនមែនជាពាក្យប្រៀបធៀបដ៏ល្អឥតខ្ចោះនោះទេ - គួរឱ្យអស់សំណើចបន្តិច - ប៉ុន្តែអ្នកមានអារម្មណ៍វា។ 🚪😅

អ្វីដែល "ល្អ" មើលទៅដូចនៅទីនេះ

• ដែនកំណត់តឹងរ៉ឹងលើការរក្សាទុក និងការចែករំលែក។.

• សម្អាត​ជម្រើស​មិន​ចូលរួម។.

• ករណីប្រើប្រាស់តូចចង្អៀត។.

• ការត្រួតពិនិត្យឯករាជ្យ។.

• មិន​មាន​ការ​ប្រើ​ «ការ​រក​ឃើញ​អារម្មណ៍» សម្រាប់​ការ​ដាក់​ទណ្ឌកម្ម ឬ​ការ​បិទ​ទ្វារ​ទេ។ សូម។ 🙃 (ច្បាប់ EU AI)

---

ការងារ ភាពច្នៃប្រឌិត និងបញ្ហាសរសេរសៀវភៅដោយស្ងាត់ៗ 🧑💻🎨

នេះជាកន្លែងដែលការជជែកវែកញែកក្លាយជារឿងផ្ទាល់ខ្លួន ពីព្រោះវាប៉ះពាល់ដល់អត្តសញ្ញាណ។.

បញ្ញាសិប្បនិម្មិត (AI) អាចធ្វើឱ្យមនុស្សមានផលិតភាពកាន់តែច្រើន។ វាក៏អាចធ្វើឱ្យមនុស្សមានអារម្មណ៍ថាអាចជំនួសបានផងដែរ។ ទាំងពីរអាចជាការពិត ក្នុងពេលតែមួយ ក្នុងសប្តាហ៍តែមួយ។ (OECD, WEF)

កន្លែងដែលវាពិតជាមានប្រយោជន៍

• ការព្រាងអត្ថបទធម្មតា ដើម្បីឱ្យមនុស្សអាចផ្តោតលើការគិត។.

• ជំនួយ​ការ​សរសេរ​កូដ​សម្រាប់​លំនាំ​ដដែលៗ។.

• ឧបករណ៍​សម្រាប់​ភាពងាយស្រួល​ចូល​ប្រើប្រាស់ (ការ​ដាក់​ចំណងជើង ការ​សង្ខេប ការ​បកប្រែ)។.

• ការបំផុសគំនិតនៅពេលអ្នកជាប់គាំង។.

កន្លែងដែលវាទៅឆ្ងាយពេក

• ការជំនួសតួនាទីដោយគ្មានផែនការផ្លាស់ប្តូរ។.

• ការប្រើប្រាស់ AI ដើម្បីកាត់បន្ថយទិន្នផល ខណៈពេលដែលធ្វើឱ្យប្រាក់ឈ្នួលមានតុល្យភាព។.

• ចាត់ទុកការងារច្នៃប្រឌិតដូចជាទិន្នន័យបណ្តុះបណ្តាលឥតគិតថ្លៃគ្មានដែនកំណត់ បន្ទាប់មកងក់ក្បាល។ (ការិយាល័យរក្សាសិទ្ធិសហរដ្ឋអាមេរិកចក្រភពអង់គ្លេស GOV.UK)

• ការធ្វើឱ្យតួនាទីក្មេងជាងវ័យបាត់ទៅវិញ - ដែលស្តាប់ទៅមានប្រសិទ្ធភាពរហូតដល់អ្នកដឹងថាអ្នកទើបតែបានដុតជណ្ដើរដែលអ្នកជំនាញនាពេលអនាគតត្រូវឡើង។.

ការ​លុប​បំបាត់​កំហុស​គឺ​មិន​សូវ​សំខាន់​ទេ។ អ្នក​មិន​កត់​សម្គាល់​វា​ជា​រៀង​រាល់​ថ្ងៃ​ទេ។ បន្ទាប់​មក​ថ្ងៃ​មួយ អ្នក​នឹង​ដឹង​ថា​គ្មាន​អ្នក​ណា​ម្នាក់​ក្នុង​ក្រុម​ចងចាំ​ពី​របៀប​ដែល​វា​ដំណើរការ​ដោយ​គ្មាន​ជំនួយការ​នោះ​ទេ។ ហើយ​ប្រសិន​បើ​ជំនួយការ​ខុស អ្នក​ទាំង​អស់​គ្នា​នឹង​ខុស​ដោយ​មាន​ទំនុក​ចិត្ត… ដែល​ជា​រឿង​មួយ​ដ៏​អាក្រក់​មួយ។ 😬

---

ការផ្តោតអារម្មណ៍ថាមពល៖ តើអ្នកណាអាចកំណត់លំនាំដើមបាន? 🏢⚡

ទោះបីជា AI “អព្យាក្រឹត” (វាមិនមែនទេ) អ្នកណាដែលគ្រប់គ្រងវាអាចបង្កើត៖

• តើព័ត៌មានអ្វីខ្លះដែលងាយស្រួលចូលប្រើ

• អ្វីដែលត្រូវបានផ្សព្វផ្សាយ ឬកប់ចោល

• តើភាសាអ្វីដែលត្រូវបានអនុញ្ញាត

• តើ​ឥរិយាបថ​អ្វីខ្លះ​ដែល​ត្រូវ​បាន​លើកទឹកចិត្ត។.

ហើយដោយសារតែប្រព័ន្ធ AI អាចមានតម្លៃថ្លៃក្នុងការសាងសង់ និងដំណើរការ អំណាចមានទំនោរប្រមូលផ្តុំ។ នោះមិនមែនជាការឃុបឃិតគ្នាទេ។ នោះគឺជាសេដ្ឋកិច្ចដែលមានមួកសុវត្ថិភាពបច្ចេកវិទ្យា។ (CMA ចក្រភពអង់គ្លេស)

ពេលវេលា "ឆ្ងាយពេក" នៅទីនេះ

នៅពេលដែលកំហុសឆ្គងក្លាយជាច្បាប់មើលមិនឃើញ៖

• អ្នកមិនដឹងថាមានអ្វីកំពុងត្រូវបានត្រងទេ

• អ្នកមិនអាចពិនិត្យមើលតក្កវិជ្ជាបានទេ

• ហើយអ្នកមិនអាចជ្រើសរើសចេញដោយជាក់ស្តែងដោយមិនបាត់បង់សិទ្ធិចូលប្រើប្រាស់ការងារ សហគមន៍ ឬសេវាកម្មជាមូលដ្ឋានបានទេ។.

ប្រព័ន្ធអេកូឡូស៊ីដែលមានសុខភាពល្អត្រូវការការប្រកួតប្រជែង តម្លាភាព និងជម្រើសពិតប្រាកដរបស់អ្នកប្រើប្រាស់។ បើមិនដូច្នោះទេ អ្នកកំពុងជួលការពិត។ 😵♂️

---

បញ្ជីត្រួតពិនិត្យជាក់ស្តែង៖ របៀបប្រាប់ថាតើ AI កំពុងឈានទៅមុខឆ្ងាយពេកនៅក្នុងពិភពលោករបស់អ្នកឬអត់ 🧾🔍

នេះជាបញ្ជីត្រួតពិនិត្យពោះវៀនដែលខ្ញុំប្រើ (ហើយបាទ វាមិនល្អឥតខ្ចោះទេ)៖

ប្រសិនបើអ្នកជាបុគ្គលម្នាក់

• ខ្ញុំអាចប្រាប់បាននៅពេលដែលខ្ញុំកំពុងធ្វើអន្តរកម្មជាមួយ AI។ (គណៈកម្មការអឺរ៉ុប)

• ប្រព័ន្ធនេះជំរុញឱ្យខ្ញុំចែករំលែកច្រើនពេក។.

• ខ្ញុំ​នឹង​មិន​អី​ទេ​ក្នុង​ការ​ដោះស្រាយ​ជាមួយ​លទ្ធផល ប្រសិនបើ​វា​ខុស​ក្នុង​លក្ខណៈ​ដែល​អាច​ជឿ​ទុកចិត្ត​បាន។.

• ប្រសិនបើខ្ញុំត្រូវបានគេបោកប្រាស់ដោយប្រើវា វេទិកានេះនឹងជួយខ្ញុំ... ឬវានឹងងក់ក្បាល។.

ប្រសិនបើអ្នកជាអាជីវកម្ម ឬក្រុម

• យើងកំពុងប្រើប្រាស់ AI ព្រោះវាមានតម្លៃ ឬដោយសារតែវាទាន់សម័យ ហើយការគ្រប់គ្រងមិនស្ងប់។.

• យើងដឹងថាទិន្នន័យអ្វីដែលប្រព័ន្ធប៉ះ។.

• អ្នកប្រើប្រាស់ដែលរងផលប៉ះពាល់អាចប្តឹងឧទ្ធរណ៍លទ្ធផល។ (UK ICO)

• មនុស្សមានអំណាចក្នុងការជំនួសគំរូ។.

• យើងមានផែនការឆ្លើយតបទៅនឹងឧប្បត្តិហេតុសម្រាប់ការបរាជ័យនៃ AI។.

• យើងកំពុងតាមដានរកមើលការរសាត់បាត់ ការប្រើប្រាស់ខុស និងករណីគែមមិនប្រក្រតី។.

ប្រសិនបើអ្នកឆ្លើយថា "ទេ" ចំពោះសំណួរមួយចំនួននេះ វាមិនមានន័យថាអ្នកជាមនុស្សអាក្រក់នោះទេ។ វាមានន័យថាអ្នកស្ថិតក្នុងស្ថានភាពធម្មតារបស់មនុស្សដែល "យើងបានប្រគល់វាហើយសង្ឃឹម"។ ប៉ុន្តែជាអកុសល ការសង្ឃឹមមិនមែនជាយុទ្ធសាស្ត្រទេ។ 😅

---

កំណត់ចំណាំបិទបញ្ចប់ 🧠✅

ដូច្នេះ... តើ AI បានទៅឆ្ងាយពេកហើយឬនៅ?
វាបានទៅឆ្ងាយពេក នៅកន្លែងដែលវាត្រូវបានដាក់ពង្រាយដោយគ្មានការទទួលខុសត្រូវជាពិសេសនៅក្នុងការសម្រេចចិត្តដែលមានហានិភ័យខ្ពស់ ការបញ្ចុះបញ្ចូលមហាជន និងការឃ្លាំមើល។ វាក៏បានទៅឆ្ងាយពេកផងដែរនៅកន្លែងដែលវាធ្វើឱ្យខូចទំនុកចិត្ត - ពីព្រោះនៅពេលដែលទំនុកចិត្តត្រូវបានបំបែក អ្វីៗទាំងអស់កាន់តែថ្លៃ និងកាន់តែមានអរិភាព និយាយឱ្យចំទៅសង្គម។ (NIST AI RMF 1.0, EU AI Act)

ប៉ុន្តែបញ្ញាសិប្បនិម្មិត (AI) មិនមែនជាមនុស្សវិនាស ឬល្អឥតខ្ចោះដោយធម្មជាតិនោះទេ។ វាជាកត្តាគុណដ៏មានឥទ្ធិពលមួយ។ សំណួរគឺថាតើយើងកសាងរបាំងការពារយ៉ាងសកម្មដូចយើងកសាងសមត្ថភាពដែរឬទេ។.

សង្ខេប​រហ័ស៖

• បញ្ញាសិប្បនិម្មិត (AI) គឺល្អជាឧបករណ៍មួយ។.

• វាមានគ្រោះថ្នាក់ណាស់ក្នុងនាមជាអាជ្ញាធរដែលគ្មានការទទួលខុសត្រូវ។.

• ប្រសិនបើនរណាម្នាក់មិនអាចប្តឹងឧទ្ធរណ៍ យល់ ឬដកខ្លួនចេញបាន - នោះហើយជាកន្លែងដែល "ហួសហេតុពេក" ចាប់ផ្តើម។ 🚦 (GDPR មាត្រា 22, UK ICO)

---

ឧទាហរណ៍​ក្នុង​ពិភព​ពិត៖ ការ​ធ្វើ​សវនកម្ម​ការ​សម្រេច​ចិត្ត​របស់ AI មុន​ពេល​វា​ប៉ះពាល់​ដល់​អតិថិជន

សេណារីយ៉ូ

អ្នកផ្តល់ប្រាក់កម្ចីតាមអ៊ីនធឺណិតតូចមួយចង់ប្រើប្រាស់ AI ដើម្បីតម្រៀបពាក្យសុំប្រាក់កម្ចីជាបីក្រុម៖ អនុម័ត ពិនិត្យដោយ ដៃ និង បដិសេធ ។

វាហាក់ដូចជាមានប្រសិទ្ធភាព ប៉ុន្តែហានិភ័យអាចកើនឡើងយ៉ាងឆាប់រហ័ស។ អ្នកដាក់ពាក្យដែលត្រូវបានបដិសេធអាចបាត់បង់សិទ្ធិទទួលបានប្រាក់សង្គ្រោះបន្ទាន់ ហើយប្រសិនបើ AI កំពុងប្រើប្រាស់ទិន្នន័យដែលមានគុណភាពអន់ ការសន្មត់ហួសសម័យ ឬសញ្ញាប្រូកស៊ីដូចជាលេខកូដប្រៃសណីយ៍ គម្លាតការងារ ឬប្រភេទឧបករណ៍ ប្រព័ន្ធនេះអាចដាក់ទណ្ឌកម្មមនុស្សដោយស្ងៀមស្ងាត់ដោយមិនផ្តល់ការពន្យល់ត្រឹមត្រូវដល់ពួកគេ។.

ដូច្នេះក្រុមសម្រេចចិត្តថា AI មិនអាចធ្វើការសម្រេចចិត្តបដិសេធចុងក្រោយបានទេ។ វាអាចដាក់ទង់សម្គាល់កម្មវិធីសម្រាប់ការពិនិត្យឡើងវិញ និងពន្យល់ពីចំណុចទិន្នន័យណាដែលមានឥទ្ធិពលលើអនុសាសន៍។.

អ្វីដែលដំណើរការការងារត្រូវការ

មុនពេលប្រើប្រាស់ជំនួយការ ក្រុមត្រូវរៀបចំ៖

• គោលនយោបាយផ្តល់ប្រាក់កម្ចីដែលសរសេរជាភាសាច្បាស់លាស់ និងប្រើប្រាស់ប្រចាំថ្ងៃ

• បញ្ជីទិន្នន័យដែល AI ត្រូវបានអនុញ្ញាតឱ្យប្រើប្រាស់

• បញ្ជីទិន្នន័យដែលវាត្រូវតែមិនអើពើ ដូចជាលក្ខណៈដែលត្រូវបានការពារ

• កម្មវិធីចំនួន ៥០ កាលពីអតីតកាលជាមួយនឹងការសម្រេចចិត្តរបស់មនុស្សដែលគេស្គាល់

• គំរូបណ្តឹងឧទ្ធរណ៍សម្រាប់អ្នកដាក់ពាក្យដែលត្រូវបានបដិសេធ ឬពន្យារពេល

• កំណត់ហេតុសវនកម្មដែលបង្ហាញពីអ្វីដែល AI បានណែនាំ និងអ្វីដែលអ្នកពិនិត្យដែលជាមនុស្សបានសម្រេចចិត្ត

ច្បាប់សំខាន់បំផុតគឺសាមញ្ញ៖ គ្មានអតិថិជនណាម្នាក់ត្រូវបានបដិសេធដោយ AI តែម្នាក់ឯងនោះទេ។

ឧទាហរណ៍នៃការណែនាំ

អ្នកគឺជាជំនួយការពិនិត្យឡើងវិញដោយ AI សម្រាប់កម្មវិធីស្នើសុំប្រាក់កម្ចី។.

ការងាររបស់អ្នកគឺជួយអ្នកពិនិត្យដែលជាមនុស្សកំណត់អត្តសញ្ញាណព័ត៌មានដែលបាត់ ភាពមិនស៊ីគ្នានៃគោលការណ៍ និងករណីដែលត្រូវការពិនិត្យដោយដៃ។.

អ្នកមិនត្រូវធ្វើការសម្រេចចិត្តចុងក្រោយលើការឱ្យខ្ចីប្រាក់នោះទេ។.

សម្រាប់កម្មវិធីនីមួយៗ សូមប្រគល់មកវិញ៖

1. ជំហានបន្ទាប់ដែលបានណែនាំ៖ អនុម័តសម្រាប់ការបញ្ជាក់ដោយមនុស្ស ការពិនិត្យដោយដៃ ឬស្នើសុំព័ត៌មានបន្ថែម

2. មូលហេតុចម្បងសម្រាប់អនុសាសន៍

3. ចំណុចទិន្នន័យដែលបានប្រើ

4. ចំណុចទិន្នន័យដែលមិនគួរប្រើប្រាស់

5. សំណួរដែលអ្នកត្រួតពិនិត្យជាមនុស្សគួរពិនិត្យ

6. ការពន្យល់ច្បាស់លាស់ចំពោះអ្នកដាក់ពាក្យ

បើភស្តុតាងមិនពេញលេញ ចូរនិយាយឲ្យច្បាស់។.

ប្រសិនបើករណីនេះអាចប៉ះពាល់យ៉ាងធ្ងន់ធ្ងរដល់សុខុមាលភាពហិរញ្ញវត្ថុរបស់អ្នកដាក់ពាក្យ សូមបញ្ជូនពាក្យបណ្តឹងទៅអ្នកពិនិត្យដែលជាមនុស្ស។.

របៀបសាកល្បងវា

ក្រុមការងារធ្វើតេស្តជំនួយការ មុនពេលអនុញ្ញាតឱ្យវានៅជិតកម្មវិធីផ្សាយផ្ទាល់។.

ករណីសាកល្បងល្អរួមមាន៖

• បេក្ខជនដែលមានប្រាក់ចំណូលស្ថិរភាព ប៉ុន្តែមានឯកសារឥណទានតិចតួច

• អ្នកដាក់ពាក្យដែលមានការផ្លាស់ប្តូរអាសយដ្ឋានថ្មីៗនេះ

• បេក្ខជនដែលទិន្នន័យប្រាក់ចំណូលរបស់គាត់បាត់

• អ្នកដាក់ពាក្យដែលត្រូវបានបដិសេធដោយខុសឆ្គងកាលពីអតីតកាល

• បេក្ខជនពីរនាក់ស្រដៀងគ្នា ដែលមានតែព័ត៌មានលម្អិតដែលមិនពាក់ព័ន្ធប៉ុណ្ណោះដែលខុសគ្នា

សម្រាប់ការធ្វើតេស្តនីមួយៗ អ្នកពិនិត្យពិនិត្យមើលរឿងបីយ៉ាង៖

1. តើជំនួយការបានជៀសវាងការធ្វើការសម្រេចចិត្តចុងក្រោយដែរឬទេ?

2. តើវាបានផ្តល់ហេតុផលដែលបេក្ខជនធម្មតាអាចយល់បានទេ?

3. តើវាបានធ្វើឱ្យករណីមិនប្រាកដប្រជា ឬមានផលប៉ះពាល់ខ្ពស់កាន់តែធ្ងន់ធ្ងរឡើង ជំនួសឱ្យការស្មានមែនទេ?

លទ្ធផល

លទ្ធផលជាឧទាហរណ៍៖ ក្នុងសំណុំតេស្តដែលមាន 50 ការប្រើប្រាស់ សូមសន្មតថាការពិនិត្យដោយដៃជាធម្មតាចំណាយពេល 12 នាទីក្នុងមួយការប្រើប្រាស់ឬប្រហែល 10 ម៉ោងសរុប។

ដោយ​ជំនួយការ AI កំពុងរៀបចំសេចក្តីសង្ខេប ការត្រួតពិនិត្យទិន្នន័យដែលបាត់ និងការពន្យល់សេចក្តីព្រាង ពេលវេលាពិនិត្យឡើងវិញនឹងធ្លាក់ចុះមកត្រឹម 7 នាទីក្នុងមួយកម្មវិធីឬប្រហែល 5 ម៉ោង 50 នាទីសរុប។

នោះគឺជាការសន្សំសំចៃប្រមាណ ៤ ម៉ោង ១០ នាទីសម្រាប់រាល់ការដាក់ពាក្យចំនួន ៥០ខណៈពេលដែលនៅតែរក្សាមនុស្សម្នាក់ឱ្យទទួលខុសត្រូវចំពោះការសម្រេចចិត្តចុងក្រោយ។

ក្រុមការងារក៏តាមដានគុណភាពផងដែរ៖

• ការបដិសេធចុងក្រោយចំនួន ០ ដែលធ្វើឡើងដោយ AI

• ពាក្យសុំ 50/50 ត្រូវបានកត់ត្រាសម្រាប់ការត្រួតពិនិត្យ

• ពាក្យសុំចំនួន ៨ ត្រូវបានបញ្ជូនបន្តដោយសារតែភស្តុតាងមិនពេញលេញ

• ការពន្យល់ព្រាងចំនួន ៣ ត្រូវបានសរសេរឡើងវិញ ពីព្រោះវាមិនច្បាស់លាស់ពេក

តួលេខទាំងនោះមិនមែនជាភស្តុតាងដែលបង្ហាញថាប្រព័ន្ធនេះ "មានសុវត្ថិភាព" នោះទេ។ ពួកវាគឺជាការចាប់ផ្តើមនៃទម្លាប់វាស់វែង។.

អ្វីដែលអាចខុសបាន

ជំនួយការនៅតែអាចធ្វើហួសហេតុពេក ប្រសិនបើក្រុមចាត់ទុកអនុសាសន៍របស់ខ្លួនជាផ្លូវកាត់ជំនួសឱ្យការជំរុញឱ្យពិនិត្យឡើងវិញ។.

កំហុសទូទៅរួមមាន៖

• អនុញ្ញាតឱ្យអ្នកពិនិត្យឡើងវិញបោះត្រាលើលទ្ធផល AI

• លាក់បាំងការពិតដែលថា AI បានជួយវាយតម្លៃកម្មវិធី

• ដោយប្រើការពន្យល់មិនច្បាស់លាស់ដូចជា "កត្តាហានិភ័យដែលត្រូវបានរកឃើញ"

• បរាជ័យក្នុងការធ្វើតេស្តរកភាពលំអៀងនៃលេខកូដប្រៃសណីយ៍ អាយុ ពិការភាព ឬគំរូចំណូល

• មិនរក្សាដាននៃការធ្វើសវនកម្ម

• ធ្វើឱ្យការអំពាវនាវយឺត ឬអាម៉ាស់

សញ្ញាព្រមានដ៏ធំបំផុតគឺនៅពេលដែលគ្មាននរណាម្នាក់អាចពន្យល់បានថាហេតុអ្វីបានជាអតិថិជនត្រូវបានបដិសេធ ពន្យារពេល ឬដាក់ទង់សម្គាល់។.

សម្ភារៈសិក្សាជាក់ស្តែង

បញ្ញាសិប្បនិម្មិត (AI) ដំណើរការបានល្អបំផុតនៅក្នុងការសម្រេចចិត្តដែលមានហានិភ័យខ្ពស់ នៅពេលដែលវាកាត់បន្ថយការគ្រប់គ្រង រៀបចំភស្តុតាង និងរកឃើញព័ត៌មានដែលបាត់។ វាហួសហេតុពេក នៅពេលដែលវាក្លាយជាអាជ្ញាធរដែលមើលមិនឃើញ។ គំរូដែលមានសុវត្ថិភាពជាងនេះមិនមែន "អនុញ្ញាតឱ្យបញ្ញាសិប្បនិម្មិតសម្រេចចិត្តលឿនជាងមុន" នោះទេ។ វា អនុញ្ញាតឱ្យបញ្ញាសិប្បនិម្មិតជួយ កត់ត្រាអ្វីៗគ្រប់យ៉ាង និងធ្វើឱ្យមនុស្សទទួលខុសត្រូវនៅពេលដែលលទ្ធផលមានសារៈសំខាន់។

សំណួរដែលសួរញឹកញាប់

តើ AI បានដើរហួសពីកម្រិតកំណត់ក្នុងជីវិតប្រចាំថ្ងៃហើយឬនៅ?

នៅកន្លែងជាច្រើន បញ្ញាសិប្បនិម្មិត (AI) បានទៅឆ្ងាយពេក ពីព្រោះវាបានចាប់ផ្តើមរអិលចូលទៅក្នុងការសម្រេចចិត្ត និងអន្តរកម្មដោយគ្មានព្រំដែនច្បាស់លាស់ ឬការទទួលខុសត្រូវ។ បញ្ហាកម្រមានណាស់ “មានបញ្ញាសិប្បនិម្មិត”។ វាគឺជាការដែលបញ្ញាសិប្បនិម្មិតត្រូវបានបញ្ចូលទៅក្នុងការជ្រើសរើសបុគ្គលិក ការថែទាំសុខភាព សេវាកម្មអតិថិជន និងចំណីដោយស្ងាត់ៗ ដោយមានការត្រួតពិនិត្យតិចតួច។ នៅពេលដែលមនុស្សមិនអាចប្រាប់បានថាវាជាបញ្ញាសិប្បនិម្មិត មិនអាចជំទាស់នឹងលទ្ធផល ឬមិនអាចជ្រើសរើសចេញ វាឈប់មានអារម្មណ៍ដូចជាឧបករណ៍ ហើយចាប់ផ្តើមមានអារម្មណ៍ដូចជាប្រព័ន្ធមួយ។.

តើ “AI កំពុង​ធ្វើ​ហួសហេតុ​ពេក” មាន​រូបរាង​យ៉ាងណា​ក្នុង​ការ​សម្រេច​ចិត្ត​ដែល​មាន​ហានិភ័យ​ខ្ពស់?

វាហាក់ដូចជាបញ្ញាសិប្បនិម្មិត (AI) កំពុងត្រូវបានប្រើប្រាស់ក្នុងវិស័យថែទាំសុខភាព ហិរញ្ញវត្ថុ លំនៅឋាន ការងារ ការអប់រំ អន្តោប្រវេសន៍ ឬយុត្តិធម៌ព្រហ្មទណ្ឌដោយគ្មានរបាំងការពារដ៏រឹងមាំ។ បញ្ហាសំខាន់មិនមែនថាគំរូធ្វើខុសនោះទេ វាគឺថាកំហុសទាំងនោះរឹងរូសទៅជាគោលនយោបាយ ហើយក្លាយជាការលំបាកក្នុងការប្រឈម។ ការសម្រេចចិត្ត "កុំព្យូទ័រនិយាយថាទេ" ដែលមានការពន្យល់តិចតួច និងគ្មានការអំពាវនាវដែលមានអត្ថន័យ គឺជាកន្លែងដែលគ្រោះថ្នាក់កើនឡើងយ៉ាងឆាប់រហ័ស។.

តើខ្ញុំអាចដឹងដោយរបៀបណាថាការសម្រេចចិត្តដោយស្វ័យប្រវត្តិកំពុងប៉ះពាល់ដល់ខ្ញុំ ហើយតើខ្ញុំអាចធ្វើអ្វីបាន?

សញ្ញាទូទៅមួយគឺជាលទ្ធផលភ្លាមៗដែលអ្នកមិនអាចពន្យល់បាន៖ ការបដិសេធ ការរឹតបន្តឹង ឬអារម្មណ៍ "ពិន្ទុហានិភ័យ" ដោយគ្មានហេតុផលច្បាស់លាស់។ ប្រព័ន្ធជាច្រើនគួរតែបង្ហាញនៅពេលដែល AI ដើរតួនាទីយ៉ាងសំខាន់ ហើយអ្នកគួរតែអាចស្នើសុំហេតុផលចម្បងនៅពីក្រោយការសម្រេចចិត្ត និងជំហានដើម្បីប្តឹងឧទ្ធរណ៍វា។ នៅក្នុងការអនុវត្តជាក់ស្តែង សូមស្នើសុំការពិនិត្យឡើងវិញដោយមនុស្ស កែតម្រូវទិន្នន័យខុសណាមួយ និងជំរុញឱ្យមានផ្លូវឈប់ប្រើប្រាស់ដោយត្រង់ៗ។.

តើ AI បាន​ឈាន​ទៅ​ហួសហេតុ​ពេក​ហើយ​ជាមួយ​នឹង​ភាពឯកជន ការយល់ព្រម និង​ការប្រើប្រាស់​ទិន្នន័យ?

ជារឿយៗវាកើតឡើងនៅពេលដែលការយល់ព្រមក្លាយជាការប្រមាញ់រកកំណប់ ហើយការប្រមូលទិន្នន័យពង្រីក "ក្នុងករណីចាំបាច់"។ ចំណុចស្នូលរបស់អត្ថបទគឺថា ភាពឯកជន និងការយល់ព្រមមិនមានទម្ងន់ច្រើនទេ ប្រសិនបើពួកវាត្រូវបានកប់នៅក្នុងការកំណត់ ឬបង្ខំដោយពាក្យមិនច្បាស់លាស់។ វិធីសាស្រ្តដែលមានសុខភាពល្អជាងគឺការបង្រួមអប្បបរមាទិន្នន័យ៖ ប្រមូលតិច រក្សាទុកតិច និងធ្វើការជ្រើសរើសដែលមិនអាចច្រឡំបាន ដើម្បីកុំឱ្យមនុស្សភ្ញាក់ផ្អើលនៅពេលក្រោយ។.

តើ​ការ​បោកប្រាស់​តាម​អ៊ីនធឺណិត​ដោយ​ប្រើ​បច្ចេកវិទ្យា​សិប្បនិម្មិត (AI) ផ្លាស់ប្ដូរ​អត្ថន័យ​នៃ​ពាក្យ «ទំនុកចិត្ត» យ៉ាង​ដូចម្តេច?

ពួកគេធ្វើឱ្យការពិតមានអារម្មណ៍ថាជាជម្រើសដោយកាត់បន្ថយថ្លៃដើមនៃការផលិតសំឡេងក្លែងក្លាយ វីដេអូ ការវាយតម្លៃ និងអត្តសញ្ញាណក្លែងក្លាយដែលគួរឱ្យជឿជាក់។ ភាពមិនស៊ីមេទ្រីគឺជាបញ្ហា៖ ការបង្កើតការកុហកគឺថោក ខណៈពេលដែលការផ្ទៀងផ្ទាត់ការពិតគឺយឺត និងហត់នឿយ។ ការការពារជាក់ស្តែងរួមមានសញ្ញាប្រភពសម្រាប់ប្រព័ន្ធផ្សព្វផ្សាយ ការបន្ថយល្បឿននៃការចែករំលែកមេរោគ ការត្រួតពិនិត្យអត្តសញ្ញាណឱ្យកាន់តែរឹងមាំនៅកន្លែងដែលវាសំខាន់ និងទម្លាប់ "ផ្ទៀងផ្ទាត់ក្រៅក្រុម" ដូចជាការហៅត្រឡប់មកវិញ ឬការប្រើពាក្យសម្ងាត់ដែលបានចែករំលែក។.

តើ​អ្វី​ទៅ​ជា​របាំង​ការពារ​ដែល​មាន​ប្រយោជន៍​បំផុត​ដើម្បី​បញ្ឈប់ AI ពី​ការ​ធ្វើ​ហួសហេតុ​ពេក?

របាំងការពារដែលផ្លាស់ប្តូរលទ្ធផលរួមមាន ការពិនិត្យឡើងវិញដោយមនុស្សពិតប្រាកដសម្រាប់ការហៅទូរស័ព្ទដែលមានហានិភ័យខ្ពស់ ដំណើរការប្តឹងឧទ្ធរណ៍ច្បាស់លាស់ និងកំណត់ហេតុសវនកម្មដែលអាចឆ្លើយសំណួរថា "មានអ្វីកើតឡើង?" បន្ទាប់ពីការបរាជ័យ។ ការវាយតម្លៃគំរូ និងការធ្វើតេស្តភាពលំអៀងអាចចាប់បានគ្រោះថ្នាក់ដែលអាចព្យាករណ៍បានមុន ខណៈពេលដែលការធ្វើតេស្តក្រុមក្រហមធ្វើត្រាប់តាមការប្រើប្រាស់ខុសមុនពេលអ្នកវាយប្រហារធ្វើ។ ដែនកំណត់អត្រា និងការគ្រប់គ្រងការចូលប្រើជួយការពារការរំលោភបំពានពីការធ្វើមាត្រដ្ឋានភ្លាមៗ ហើយការបង្រួមអប្បបរមាទិន្នន័យកាត់បន្ថយហានិភ័យទូទាំងក្រុមប្រឹក្សាភិបាល។.

តើពេលណាទើបការឃ្លាំមើលដែលជំរុញដោយ AI ឆ្លងកាត់ព្រំដែន?

វាឆ្លងកាត់បន្ទាត់នៅពេលដែលអ្វីៗប្រែទៅជាឧបករណ៍ចាប់សញ្ញាតាមលំនាំដើម៖ ការសម្គាល់មុខនៅក្នុងហ្វូងមនុស្ស ការតាមដានលំនាំចលនា ឬ "ការរកឃើញអារម្មណ៍" ដោយទំនុកចិត្តដែលប្រើសម្រាប់ការដាក់ទណ្ឌកម្ម ឬការរក្សាច្រកទ្វារ។ សូម្បីតែប្រព័ន្ធមិនត្រឹមត្រូវក៏អាចបង្កគ្រោះថ្នាក់ធ្ងន់ធ្ងរផងដែរ ប្រសិនបើពួកគេបង្ហាញអំពីភាពត្រឹមត្រូវនៃអន្តរាគមន៍ ឬការបដិសេធសេវាកម្ម។ ការអនុវត្តល្អមើលទៅដូចជាករណីប្រើប្រាស់តូចចង្អៀត ដែនកំណត់នៃការរក្សាទុកយ៉ាងតឹងរ៉ឹង ការជ្រើសរើសយកមិនចូលរួមដែលមានអត្ថន័យ ការត្រួតពិនិត្យឯករាជ្យ និង "ទេ" យ៉ាងម៉ឺងម៉ាត់ចំពោះការវិនិច្ឆ័យដែលផ្អែកលើអារម្មណ៍ដែលមិនស្ថិតស្ថេរ។.

តើ AI ធ្វើឱ្យមនុស្សមានផលិតភាពកាន់តែច្រើន - ឬកំពុងកាត់បន្ថយការងារដោយស្ងាត់ៗ?

ទាំងពីរអាចជាការពិតក្នុងពេលតែមួយ ហើយភាពតានតឹងនោះគឺជាចំណុចសំខាន់។ បញ្ញាសិប្បនិម្មិត (AI) អាចជួយក្នុងការព្រាងជាប្រចាំ គំរូសរសេរកូដដដែលៗ និងភាពងាយស្រួលចូលដំណើរការ ដែលអនុញ្ញាតឱ្យមនុស្សផ្តោតលើការគិតកម្រិតខ្ពស់។ វាហួសហេតុពេកនៅពេលដែលវាជំនួសតួនាទីដោយគ្មានផែនការផ្លាស់ប្តូរ កាត់បន្ថយប្រាក់ឈ្នួល ចាត់ទុកការងារច្នៃប្រឌិតដូចជាទិន្នន័យបណ្តុះបណ្តាលឥតគិតថ្លៃ ឬដកតួនាទីក្មេងជាងដែលបង្កើតជំនាញនាពេលអនាគត។ ការដកបុគ្គលិកចេញពីការងារនៅតែមិនច្បាស់លាស់រហូតដល់ក្រុមមិនអាចដំណើរការបានដោយគ្មានជំនួយការ។.

ឯកសារយោង

1. វិទ្យាស្ថានជាតិស្តង់ដារ និងបច្ចេកវិទ្យា (NIST) - ក្របខ័ណ្ឌគ្រប់គ្រងហានិភ័យ AI (AI RMF 1.0) - nist.gov

2. សហភាពអឺរ៉ុប - ច្បាប់ AI របស់សហភាពអឺរ៉ុប (បទប្បញ្ញត្តិ (EU) 2024/1689) - ទិនានុប្បវត្តិផ្លូវការ (ភាសាអង់គ្លេស) - europa.eu

3. គណៈកម្មការអឺរ៉ុប - ក្របខ័ណ្ឌបទប្បញ្ញត្តិសម្រាប់ AI (ទំព័រគោលនយោបាយច្បាប់ AI របស់សហភាពអឺរ៉ុប) - europa.eu

4. ផ្នែកសេវាកម្មច្បាប់ AI របស់សហភាពអឺរ៉ុប - ឧបសម្ព័ន្ធទី III (ប្រព័ន្ធ AI ដែលមានហានិភ័យខ្ពស់) - europa.eu

5. សហភាពអឺរ៉ុប - ច្បាប់សម្រាប់បញ្ញាសិប្បនិម្មិតដែលគួរឱ្យទុកចិត្តនៅក្នុងសហភាពអឺរ៉ុប (សេចក្តីសង្ខេបនៃច្បាប់ AI របស់សហភាពអឺរ៉ុប) - europa.eu

6. ការិយាល័យស្នងការព័ត៌មានចក្រភពអង់គ្លេស (ICO) - តើការធ្វើការសម្រេចចិត្ត និងការវិភាគទម្រង់បុគ្គលដោយស្វ័យប្រវត្តិជាអ្វី? - ico.org.uk

7. ការិយាល័យស្នងការព័ត៌មានចក្រភពអង់គ្លេស (ICO) - តើ GDPR របស់ចក្រភពអង់គ្លេសនិយាយអ្វីខ្លះអំពីការធ្វើការសម្រេចចិត្ត និងការវិភាគទម្រង់ដោយស្វ័យប្រវត្តិ? - ico.org.uk

8. ការិយាល័យស្នងការព័ត៌មានចក្រភពអង់គ្លេស (ICO) - ការធ្វើការសម្រេចចិត្ត និងការវិភាគទម្រង់ដោយស្វ័យប្រវត្តិ (មជ្ឈមណ្ឌលណែនាំ) - ico.org.uk

9. ការិយាល័យស្នងការព័ត៌មានចក្រភពអង់គ្លេស (ICO) - ការបង្រួមអប្បបរមាទិន្នន័យ (ការណែនាំអំពីគោលការណ៍ GDPR របស់ចក្រភពអង់គ្លេស) - ico.org.uk

10. GDPR-info.eu - មាត្រា ២២ GDPR - gdpr-info.eu

11. GDPR-info.eu - មាត្រា 5 GDPR - gdpr-info.eu

12. គណៈកម្មការពាណិជ្ជកម្មសហព័ន្ធសហរដ្ឋអាមេរិក (FTC) - អ្នកបោកប្រាស់ប្រើប្រាស់ AI ដើម្បីបង្កើនគម្រោងសង្គ្រោះបន្ទាន់ក្នុងគ្រួសាររបស់ពួកគេ - ftc.gov

13. គណៈកម្មការពាណិជ្ជកម្មសហព័ន្ធសហរដ្ឋអាមេរិក (FTC) - អ្នកបោកប្រាស់ប្រើប្រាស់ភាពអាសន្នក្លែងក្លាយដើម្បីលួចប្រាក់របស់អ្នក - ftc.gov

14. គណៈកម្មការពាណិជ្ជកម្មសហព័ន្ធសហរដ្ឋអាមេរិក (FTC) - ច្បាប់ចុងក្រោយហាមឃាត់ការវាយតម្លៃ និងសក្ខីកម្មក្លែងក្លាយ (សេចក្តីប្រកាសព័ត៌មាន) - ftc.gov

15. ការិយាល័យស៊ើបអង្កេតសហព័ន្ធ (FBI) - FBI ព្រមានអំពីការគំរាមកំហែងកាន់តែខ្លាំងឡើងនៃឧក្រិដ្ឋជនតាមអ៊ីនធឺណិតដែលប្រើប្រាស់បញ្ញាសិប្បនិម្មិត - fbi.gov

16. អង្គការសម្រាប់កិច្ចសហប្រតិបត្តិការ និងអភិវឌ្ឍន៍សេដ្ឋកិច្ច (OECD) - គោលការណ៍ AI របស់ OECD - oecd.ai

17. OECD - អនុសាសន៍របស់ក្រុមប្រឹក្សាស្តីពីបញ្ញាសិប្បនិម្មិត (OECD/LEGAL/0449) - oecd.org

18. គណៈកម្មការអឺរ៉ុប - គោលការណ៍ណែនាំ និងក្រមប្រតិបត្តិសម្រាប់ប្រព័ន្ធ AI ដែលមានតម្លាភាព (សំណួរដែលសួរញឹកញាប់) - europa.eu

19. សម្ព័ន្ធភាពសម្រាប់ប្រភព និងភាពត្រឹមត្រូវនៃខ្លឹមសារ (C2PA) - លក្ខណៈបច្ចេកទេស v2.3 - c2pa.org

20. អាជ្ញាធរប្រកួតប្រជែង និងទីផ្សារចក្រភពអង់គ្លេស (CMA) - គំរូគ្រឹះ AI៖ របាយការណ៍ដំបូង - gov.uk

21. រដ្ឋបាលចំណីអាហារ និងឱសថសហរដ្ឋអាមេរិក (FDA) - ឧបករណ៍វេជ្ជសាស្ត្រដែលដំណើរការដោយបញ្ញាសិប្បនិម្មិត - fda.gov

22. NIST - ការគ្រប់គ្រងសុវត្ថិភាព និងភាពឯកជនសម្រាប់ប្រព័ន្ធព័ត៌មាន និងអង្គការ (SP 800-53 កែប្រែទី 5) - nist.gov

23. NIST - ទម្រង់ AI ដែលអាចបង្កើតបាន (NIST.AI.600-1, ipd) - nist.gov

24. គម្រោងសុវត្ថិភាពកម្មវិធីបើកចំហទូទាំងពិភពលោក (OWASP) - ការប្រើប្រាស់ធនធានគ្មានការរឹតត្បិត (កំពូលសុវត្ថិភាព API ទាំង 10 ឆ្នាំ 2023) - owasp.org

25. NIST - ប្រជាសាស្ត្រនៃការធ្វើតេស្តអ្នកលក់សម្គាល់មុខ (FRVT) - nist.gov

26. Barrett និង​អ្នក​ដទៃ (2019) - អត្ថបទ (PMC) - nih.gov

27. OECD - ការប្រើប្រាស់ AI នៅកន្លែងធ្វើការ (PDF) - oecd.org

28. វេទិកាសេដ្ឋកិច្ចពិភពលោក (WEF) - របាយការណ៍អនាគតនៃការងារឆ្នាំ ២០២៥ - សេចក្តីសង្ខេប - weforum.org

29. ការិយាល័យ​រក្សាសិទ្ធិ​សហរដ្ឋអាមេរិក - រក្សាសិទ្ធិ និង​បញ្ញា​សិប្បនិម្មិត ផ្នែកទី 3៖ របាយការណ៍​បណ្តុះបណ្តាល​បញ្ញា​សិប្បនិម្មិត​បង្កើត​ថ្មី (កំណែ​មុន​ការបោះពុម្ពផ្សាយ) (PDF) - copyright.gov

30. រដ្ឋាភិបាលចក្រភពអង់គ្លេស (GOV.UK) - ការរក្សាសិទ្ធិ និងបញ្ញាសិប្បនិម្មិត (ពិគ្រោះយោបល់) - gov.uk

ស្វែងរក AI ចុងក្រោយបំផុតនៅហាងជំនួយការ AI ផ្លូវការ

អំពីយើង