AI ដែលអាចពន្យល់បានគឺជាឃ្លាមួយក្នុងចំណោមឃ្លាទាំងនោះដែលស្តាប់ទៅស្អាតនៅពេលអាហារពេលល្ងាច ហើយក្លាយជារឿងសំខាន់នៅពេលដែលក្បួនដោះស្រាយកំណត់ការវិនិច្ឆ័យវេជ្ជសាស្រ្ត អនុម័តប្រាក់កម្ចី ឬដាក់ទង់លើការដឹកជញ្ជូន។ ប្រសិនបើអ្នកធ្លាប់គិត យល់ព្រម ប៉ុន្តែ ហេតុអ្វីបានជា ម៉ូដែលធ្វើដូច្នេះ… អ្នកស្ថិតនៅក្នុងទឹកដី AI ដែលអាចពន្យល់បានហើយ។ ចូរយើងស្រាយគំនិតជាភាសាសាមញ្ញ - គ្មានវេទមន្ត គ្រាន់តែជាវិធីសាស្រ្ត ការដោះដូរ និងការពិតពិបាកមួយចំនួន។
អត្ថបទដែលអ្នកប្រហែលជាចង់អានបន្ទាប់ពីអត្ថបទនេះ៖
🔗 តើ AI លំអៀងគឺជាអ្វី?
ស្វែងយល់ពីភាពលំអៀងរបស់ AI ប្រភពរបស់វា ផលប៉ះពាល់ និងយុទ្ធសាស្ត្រកាត់បន្ថយ។
🔗 តើ AI ព្យាករណ៍គឺជាអ្វី?
រុករក AI ព្យាករណ៍ ការប្រើប្រាស់ទូទៅ អត្ថប្រយោជន៍ និងដែនកំណត់ជាក់ស្តែង។
🔗 តើមនុស្សយន្ត AI គឺជាអ្វី?
ស្វែងយល់ពីរបៀបដែល AI ផ្តល់ថាមពលដល់មនុស្សយន្ត មនុស្សយន្ត សមត្ថភាព ឧទាហរណ៍ និងបញ្ហាប្រឈម។
🔗 តើអ្វីទៅជាគ្រូបង្វឹក AI?
ស្វែងយល់ពីអ្វីដែលអ្នកបង្ហាត់ AI ធ្វើ ជំនាញដែលត្រូវការ និងផ្លូវអាជីព។
អ្វីដែលអាចពន្យល់បាន AI ពិតជាមានន័យ
AI ដែលអាចពន្យល់បាន គឺជាការអនុវត្តនៃការរចនា និងប្រើប្រាស់ប្រព័ន្ធ AI ដូច្នេះលទ្ធផលរបស់ពួកគេអាចត្រូវបានយល់ដោយមនុស្ស - មនុស្សជាក់លាក់ដែលរងផលប៉ះពាល់ដោយ ឬទទួលខុសត្រូវចំពោះការសម្រេចចិត្ត មិនមែនត្រឹមតែអ្នកជំនួយការគណិតវិទ្យាប៉ុណ្ណោះទេ។ NIST បែងចែកវាទៅជាគោលការណ៍ចំនួនបួន៖ ផ្តល់ ការពន្យល់ ធ្វើឱ្យវា មានន័យ សម្រាប់ទស្សនិកជន ធានា ភាពត្រឹមត្រូវនៃការពន្យល់ (ស្មោះត្រង់ចំពោះគំរូ) និងគោរព ដែនកំណត់ចំណេះដឹង (កុំនិយាយលើសអ្វីដែលប្រព័ន្ធដឹង) [1] ។
ក្រៅពីប្រវត្តិសាស្ត្រខ្លីៗ៖ ដែនដែលសំខាន់ផ្នែកសុវត្ថិភាពបានជំរុញឱ្យមានចំណុចនេះមុនពេលដែលមានគោលបំណងសម្រាប់គំរូដែលនៅតែមានភាពសុក្រឹតតែអាចបកស្រាយបានគ្រប់គ្រាន់ដើម្បីទុកចិត្ត "ក្នុងការរង្វិលជុំ"។ ផ្កាយខាងជើងមិនបានផ្លាស់ប្តូរការពន្យល់ដែលអាចប្រើប្រាស់បាន ដោយមិន មានការសម្តែងក្នុងធុងសំរាមទេ។
ហេតុអ្វីបានជា AI អាចពន្យល់បាន សំខាន់ជាងអ្វីដែលអ្នកគិត 💡
-
ការទុកចិត្ត និងការអនុម័ត - មនុស្សទទួលយកប្រព័ន្ធដែលពួកគេអាចសួរសំណួរ និងកែតម្រូវ។
-
ហានិភ័យ និងសុវត្ថិភាព - ការពន្យល់អំពីទម្រង់នៃការបរាជ័យលើផ្ទៃ មុនពេលពួកវាធ្វើឱ្យអ្នកភ្ញាក់ផ្អើលជាខ្លាំង។
-
ការរំពឹងទុកតាមបទប្បញ្ញត្តិ - នៅក្នុងសហភាពអឺរ៉ុប ច្បាប់ AI កំណត់កាតព្វកិច្ចតម្លាភាពច្បាស់លាស់ - ឧទាហរណ៍ ប្រាប់មនុស្សនៅពេលដែលពួកគេកំពុងធ្វើអន្តរកម្មជាមួយ AI ក្នុងបរិបទជាក់លាក់ និងដាក់ស្លាកមាតិកាដែលបង្កើតដោយ AI ឬរៀបចំឱ្យបានត្រឹមត្រូវ [2] ។
ចូរនិយាយដោយស្មោះត្រង់ - ផ្ទាំងគ្រប់គ្រងដ៏ស្រស់ស្អាតមិនមែនជាការពន្យល់ទេ។ ការពន្យល់ដ៏ល្អជួយមនុស្សម្នាក់សម្រេចចិត្តថាត្រូវធ្វើអ្វីបន្ទាប់ទៀត។
អ្វីដែលធ្វើឱ្យ AI អាចពន្យល់បានមានប្រយោជន៍ ✅
នៅពេលអ្នកវាយតម្លៃវិធីសាស្ត្រ XAI ណាមួយ សូមសួររក៖
-
ភាពស្មោះត្រង់ - តើការពន្យល់ឆ្លុះបញ្ចាំងពីអាកប្បកិរិយារបស់តារាម៉ូដែល ឬគ្រាន់តែប្រាប់រឿងលួងលោម?
-
អត្ថប្រយោជន៍សម្រាប់ទស្សនិកជន - អ្នកវិទ្យាសាស្ត្រទិន្នន័យចង់បានជម្រាល; គ្រូពេទ្យចង់បានការប្រឆាំង ឬច្បាប់។ អតិថិជនចង់បានហេតុផលជាភាសាសាមញ្ញ បូកនឹងជំហានបន្ទាប់។
-
ស្ថេរភាព - ការផ្លាស់ប្តូរការបញ្ចូលតិចតួចមិនគួរត្រឡប់រឿងពី A ទៅ Z ទេ។
-
Actionability - ប្រសិនបើទិន្នផលមិនចង់បាន តើអ្វីអាចផ្លាស់ប្តូរ?
-
ភាពស្មោះត្រង់អំពីភាពមិនច្បាស់លាស់ - ការពន្យល់គួរតែបង្ហាញពីដែនកំណត់ មិនមែនលាបពណ៌លើពួកវាទេ។
-
ភាពច្បាស់លាស់នៃវិសាលភាព - តើនេះគឺជា ក្នុងស្រុក សម្រាប់ការទស្សន៍ទាយមួយ ឬ សកល នៃអាកប្បកិរិយាគំរូ?
ប្រសិនបើអ្នកចាំតែរឿងមួយប៉ុណ្ណោះ៖ ការពន្យល់ដ៏មានប្រយោជន៍ផ្លាស់ប្តូរការសម្រេចចិត្តរបស់នរណាម្នាក់ មិនមែនត្រឹមតែអារម្មណ៍របស់ពួកគេនោះទេ។
គោលគំនិតសំខាន់ៗ អ្នកនឹងឮច្រើន🧩
-
ការបកស្រាយធៀបនឹងការពន្យល់ - ការបកស្រាយ៖ គំរូគឺសាមញ្ញគ្រប់គ្រាន់ក្នុងការអាន (ឧ. ដើមឈើតូចមួយ)។ ភាពអាចពន្យល់បាន៖ បន្ថែមវិធីសាស្រ្តមួយនៅលើកំពូលដើម្បីធ្វើឱ្យគំរូស្មុគស្មាញអាចយល់បាន។
-
Local vs global - Local ពន្យល់ពីការសម្រេចចិត្តមួយ; សកលសង្ខេបអំពីអាកប្បកិរិយាជារួម។
-
Post-hoc vs intrinsic - Post-hoc ពន្យល់អំពីប្រអប់ខ្មៅដែលបានបណ្តុះបណ្តាល; ខាងក្នុងប្រើគំរូដែលអាចបកស្រាយបាន។
បាទ បន្ទាត់ទាំងនេះព្រិល។ មិនអីទេ; ភាសាវិវត្ត; បញ្ជីហានិភ័យរបស់អ្នកមិនមានទេ។
វិធីសាស្រ្ត AI ដែលអាចពន្យល់បានពេញនិយម - ដំណើរកម្សាន្ត🎡
នេះជាដំណើរកម្សាន្តខ្យល់គួចជាមួយនឹងសំឡេងនៃមគ្គុទ្ទេសក៍អូឌីយ៉ូក្នុងសារមន្ទីរ ប៉ុន្តែខ្លីជាង។
1) គុណលក្ខណៈមុខងារបន្ថែម
-
SHAP - កំណត់លក្ខណៈពិសេសនីមួយៗនូវការរួមចំណែកដល់ការទស្សន៍ទាយជាក់លាក់តាមរយៈគំនិតទ្រឹស្តីហ្គេម។ ចូលចិត្តសម្រាប់ការពន្យល់បន្ថែមច្បាស់លាស់ និងទិដ្ឋភាពរួមនៃគំរូ [3]។
2) គំរូពពោះជំនួសក្នុងស្រុក
-
LIME - បង្វឹកគំរូមូលដ្ឋានសាមញ្ញមួយនៅជុំវិញឧទាហរណ៍ដែលត្រូវពន្យល់។ សង្ខេបខ្លីៗដែលអាចអានបានដោយមនុស្ស ដែលមុខងារសំខាន់ៗដែលនៅក្បែរនោះ។ ល្អសម្រាប់ការបង្ហាញ មានប្រយោជន៍ក្នុងការអនុវត្ត - មើលស្ថេរភាព [4] ។
3) វិធីសាស្រ្តផ្អែកលើជម្រាលសម្រាប់សំណាញ់ជ្រៅ
-
ជម្រាលរួមបញ្ចូលគ្នា - កំណត់គុណលក្ខណៈសារៈសំខាន់ដោយការរួមបញ្ចូលជម្រាលពីបន្ទាត់មូលដ្ឋានទៅធាតុបញ្ចូល; ប្រើជាញឹកញាប់សម្រាប់ការមើលឃើញ និងអត្ថបទ។ អក្ខរាវិរុទ្ធដែលយល់ឃើញ; ការថែទាំដែលត្រូវការជាមួយនឹងមូលដ្ឋាននិងសំឡេង [1] ។
4) ការពន្យល់ផ្អែកលើឧទាហរណ៍
-
ការប្រឆាំងការពិត - "តើការផ្លាស់ប្តូរតិចតួចបំផុតអ្វីដែលនឹងធ្វើឱ្យលទ្ធផលត្រឡប់មកវិញ?" ល្អឥតខ្ចោះសម្រាប់ការសម្រេចចិត្តព្រោះវាអាចធ្វើសកម្មភាពដោយធម្មជាតិ - ធ្វើ X ដើម្បីទទួលបាន Y [1] ។
5) គំរូ ច្បាប់ និងភាពអាស្រ័យដោយផ្នែក
-
គំរូបង្ហាញឧទាហរណ៍តំណាង; ក្បួនចាប់យកលំនាំដូចជា ប្រសិនបើប្រាក់ចំណូល > X និងប្រវត្តិ = ស្អាត បន្ទាប់មកយល់ព្រម ; ការពឹងផ្អែកដោយផ្នែកបង្ហាញពីឥទ្ធិពលជាមធ្យមនៃលក្ខណៈពិសេសលើជួរមួយ។ គំនិតសាមញ្ញ ជាញឹកញាប់វាយតម្លៃទាប។
6) សម្រាប់គំរូភាសា
-
សញ្ញាសម្គាល់/វិសាលភាពគុណលក្ខណៈ គំរូដែលបានទាញយក និងហេតុផលដែលមានរចនាសម្ព័ន្ធ។ មានប្រយោជន៍ ជាមួយនឹងការព្រមានធម្មតា៖ ផែនទីកំដៅស្អាតមិនធានាហេតុផលមូលហេតុ [5] ។
ករណីរហ័ស (សមាសធាតុ) ពីវាល🧪
អ្នកឱ្យខ្ចីទំហំមធ្យមបញ្ជូនគំរូដែលជំរុញដោយជម្រាលសម្រាប់ការសម្រេចចិត្តឥណទាន។ SHAP ក្នុងស្រុក ជួយភ្នាក់ងារពន្យល់ពីលទ្ធផលមិនល្អ ("បំណុលទៅចំណូល និងការប្រើប្រាស់ឥណទានថ្មីៗគឺជាកត្តាជំរុញសំខាន់") [3]។ ស្រទាប់ មិនពិត បង្ហាញពីការទាមទារដែលអាចធ្វើទៅបាន ("កាត់បន្ថយការប្រើប្រាស់បង្វិល ~10% ឬបន្ថែម £1,500 ក្នុងប្រាក់បញ្ញើដែលបានផ្ទៀងផ្ទាត់ ដើម្បីត្រឡប់ការសម្រេចចិត្ត។") [1] ។ នៅខាងក្នុង ក្រុមការងារដំណើរការ ការធ្វើតេស្តដោយចៃដន្យ លើរូបភាពដែលមានរចនាប័ទ្មភាពផ្អែមល្ហែមដែលពួកគេប្រើនៅក្នុង QA ដើម្បីធានាថាការរំលេចមិនមែនគ្រាន់តែជាឧបករណ៍ចាប់គែមក្នុងការក្លែងបន្លំ [5] នោះទេ។ គំរូដូចគ្នា ការពន្យល់ផ្សេងគ្នាសម្រាប់ទស្សនិកជនផ្សេងៗគ្នា - អតិថិជន ops និងអ្នកសវនករ។
ភាពឆ្គាំឆ្គង៖ ការពន្យល់អាចបំភាន់ 🙃
វិធីសាស្រ្ដខ្លះមើលទៅគួរឱ្យជឿជាក់ ទោះបីវាមិនជាប់នឹងគំរូដែលបានបណ្តុះបណ្តាល ឬទិន្នន័យក៏ដោយ។ ការត្រួតពិនិត្យអនាម័យបានបង្ហាញពីបច្ចេកទេសមួយចំនួនអាចបរាជ័យក្នុងការធ្វើតេស្តជាមូលដ្ឋាន ដោយផ្តល់នូវការយល់ដឹងមិនពិត។ ការបកប្រែ៖ រូបភាពស្អាតអាចជាល្ខោនសុទ្ធ។ បង្កើតការធ្វើតេស្តសុពលភាពសម្រាប់វិធីសាស្ត្រពន្យល់របស់អ្នក [5] ។
ដូចគ្នានេះផងដែរ, sparse ≠ស្មោះត្រង់។ ហេតុផលមួយប្រយោគអាចលាក់ទំនាក់ទំនងធំ។ ភាពផ្ទុយគ្នាបន្តិចបន្តួចនៅក្នុងការពន្យល់អាចបង្ហាញពីភាពមិនប្រាកដប្រជានៃគំរូពិត ឬគ្រាន់តែជាសំលេងរំខាន។ ការងាររបស់អ្នកគឺប្រាប់ថាតើមួយណា។
អភិបាលកិច្ច គោលនយោបាយ និងការកើនឡើងនៃតម្លាភាព 🏛️
អ្នកបង្កើតគោលនយោបាយរំពឹងថានឹងមានតម្លាភាពសមស្របតាមបរិបទ។ នៅក្នុង សហភាពអឺរ៉ុប ច្បាប់ AI ចែងពីកាតព្វកិច្ចដូចជាការជូនដំណឹងដល់មនុស្សនៅពេលដែលពួកគេធ្វើអន្តរកម្មជាមួយ AI ក្នុងករណីជាក់លាក់ និងការដាក់ស្លាកមាតិកាដែលបង្កើត ឬរៀបចំដោយ AI ជាមួយនឹងការជូនដំណឹងសមស្រប និងមធ្យោបាយបច្ចេកទេស ប្រធានបទលើកលែង (ឧទាហរណ៍ ការប្រើប្រាស់ស្របច្បាប់ ឬការបញ្ចេញមតិដែលត្រូវបានការពារ) [2] ។ នៅផ្នែកវិស្វកម្ម NIST ផ្តល់ការណែនាំតាមគោលការណ៍ ដើម្បីជួយក្រុមក្នុងការរចនាការពន្យល់ដែលមនុស្សអាចប្រើប្រាស់បាន [1]។
របៀបជ្រើសរើសវិធីសាស្រ្ត AI ដែលអាចពន្យល់បាន - ផែនទីរហ័ស🗺️
-
ចាប់ផ្តើមពីការសម្រេចចិត្ត - តើអ្នកណាត្រូវការការពន្យល់ ហើយសម្រាប់សកម្មភាពអ្វី?
-
ផ្គូផ្គងវិធីសាស្រ្តទៅនឹងគំរូនិងមធ្យម
-
វិធីសាស្ត្រជម្រាលសម្រាប់សំណាញ់ជ្រៅក្នុងចក្ខុវិស័យ ឬ NLP [1] ។
-
SHAP ឬ LIME សម្រាប់ម៉ូដែលតារាងនៅពេលដែលអ្នកត្រូវការគុណលក្ខណៈលក្ខណៈពិសេស [3][4]។
-
សំណងសម្រាប់ការប្រឈមមុខនឹងអតិថិជន និងការប្តឹងឧទ្ធរណ៍ [1] ។
-
-
កំណត់ច្រកគុណភាព - ការត្រួតពិនិត្យភាពស្មោះត្រង់ ការធ្វើតេស្តស្ថេរភាព និងការពិនិត្យមើលមនុស្សក្នុងរង្វង់ [5] ។
-
ផែនការសម្រាប់មាត្រដ្ឋាន - ការពន្យល់គួរតែអាចកត់ត្រាបាន សាកល្បង និងអាចសវនកម្មបាន។
-
ដែនកំណត់ឯកសារ - គ្មានវិធីសាស្រ្តណាដែលល្អឥតខ្ចោះ; សរសេររបៀបបរាជ័យដែលគេស្គាល់។
តូចមួយ - ប្រសិនបើអ្នកមិនអាចសាកល្បងការពន្យល់ដូចអ្នកសាកល្បងគំរូទេ អ្នកប្រហែលជាមិនមានការពន្យល់ទេ គ្រាន់តែញ័រ។
តារាងប្រៀបធៀប - ជម្រើស AI ធម្មតាដែលអាចពន្យល់បាន🧮
ចម្លែកបន្តិចក្នុងគោលបំណង; ជីវិតពិតគឺរញ៉េរញ៉ៃ។
| ឧបករណ៍ / វិធីសាស្រ្ត | ទស្សនិកជនល្អបំផុត | តម្លៃ | ហេតុអ្វីបានជាវាដំណើរការសម្រាប់ពួកគេ។ |
|---|---|---|---|
| SHAP | អ្នកវិទ្យាសាស្ត្រទិន្នន័យ អ្នកសវនករ | ឥតគិតថ្លៃ/បើក | គុណលក្ខណៈបន្ថែម - ជាប់លាប់ ប្រៀបធៀប [3] ។ |
| ក្រូចឆ្មា | ក្រុមផលិតផល អ្នកវិភាគ | ឥតគិតថ្លៃ/បើក | ពពោះជំនួសក្នុងស្រុករហ័ស; ងាយស្រួលក្នុងការគ្រវី; ពេលខ្លះមានសំលេងរំខាន [4] ។ |
| ជម្រាលរួមបញ្ចូលគ្នា | វិស្វករ ML នៅលើសំណាញ់ជ្រៅ | ឥតគិតថ្លៃ/បើក | គុណលក្ខណៈផ្អែកលើជម្រាលជាមួយនឹង axioms សមរម្យ [1] ។ |
| វត្ថុប្រឆាំង | អ្នកប្រើប្រាស់ចុងក្រោយ, ការអនុលោមតាម, ops | លាយ | ឆ្លើយដោយផ្ទាល់នូវអ្វីដែលត្រូវផ្លាស់ប្តូរ; សកម្មភាពដ៏អស្ចារ្យ [1] ។ |
| បញ្ជីច្បាប់ / ដើមឈើ | ម្ចាស់ហានិភ័យ, អ្នកគ្រប់គ្រង | ឥតគិតថ្លៃ/បើក | ការបកស្រាយខាងក្នុង; សេចក្តីសង្ខេបជាសកល។ |
| ការពឹងផ្អែកដោយផ្នែក | ម៉ូដែល devs, QA | ឥតគិតថ្លៃ/បើក | មើលឃើញផលប៉ះពាល់ជាមធ្យមនៅទូទាំងជួរ។ |
| គំរូ និងគំរូ | អ្នករចនា អ្នកពិនិត្យ | ឥតគិតថ្លៃ/បើក | បេតុង, ឧទហរណ៍ មនុស្សធម៌; ពាក់ព័ន្ធ។ |
| វេទិកាឧបករណ៍ | ក្រុមវេទិកា, អភិបាលកិច្ច | ពាណិជ្ជកម្ម | ការត្រួតពិនិត្យ + ការពន្យល់ + សវនកម្មនៅកន្លែងតែមួយ។ |
បាទ កោសិកាមិនស្មើគ្នា។ នោះជាជីវិត។
ដំណើរការការងារសាមញ្ញសម្រាប់ AI ដែលអាចពន្យល់បានក្នុងផលិតកម្ម🛠️
ជំហានទី 1 - កំណត់សំណួរ។
សម្រេចចិត្តថាតើតម្រូវការមួយណាសំខាន់ជាងគេ។ ការពន្យល់របស់អ្នកវិទ្យាសាស្ត្រទិន្នន័យគឺមិនដូចគ្នាទៅនឹងលិខិតអំពាវនាវសម្រាប់អតិថិជននោះទេ។
ជំហានទី 2 - ជ្រើសរើសវិធីសាស្រ្តតាមបរិបទ។
-
គំរូហានិភ័យតារាងសម្រាប់ប្រាក់កម្ចី - ចាប់ផ្តើមជាមួយ SHAP សម្រាប់ក្នុងស្រុក និងសកល។ បន្ថែមការប្រឆាំងសម្រាប់ការទាមទារ [3][1]។
-
ឧបករណ៍ចាត់ថ្នាក់ចក្ខុវិស័យ - ប្រើជម្រាលរួមបញ្ចូលគ្នាឬស្រដៀងគ្នា។ បន្ថែមការត្រួតពិនិត្យអនាម័យ ដើម្បីជៀសវាងការធ្លាក់ទឹកប្រៃ [1][5]។
ជំហានទី 3 - បញ្ជាក់ការពន្យល់។
ធ្វើតេស្តភាពស៊ីសង្វាក់ពន្យល់; រំខានការបញ្ចូល; ពិនិត្យមើលថាលក្ខណៈសំខាន់ត្រូវនឹងចំណេះដឹងដែន។ ប្រសិនបើលក្ខណៈពិសេសកំពូលរបស់អ្នករសាត់យ៉ាងព្រៃផ្សៃរាល់ការហ្វឹកហាត់ឡើងវិញ សូមផ្អាក។
ជំហានទី 4 - ធ្វើឱ្យការពន្យល់អាចប្រើបាន។
ហេតុផលជាភាសាសាមញ្ញ រួមជាមួយគំនូសតាង។ រួមបញ្ចូលសកម្មភាពល្អបំផុតបន្ទាប់។ ផ្តល់ជូននូវតំណភ្ជាប់ទៅនឹងលទ្ធផលប្រកួតប្រជែងដែលសមស្រប - នេះគឺជាអ្វីដែលច្បាប់តម្លាភាពមានគោលបំណងគាំទ្រ [2] ។
ជំហានទី 5 - ត្រួតពិនិត្យនិងកត់ត្រា។
តាមដានស្ថេរភាពការពន្យល់តាមពេលវេលា។ ការពន្យល់ដែលបំភ័ន្តគឺជាសញ្ញាហានិភ័យ មិនមែនជាកំហុសគ្រឿងសំអាងទេ។
ការជ្រមុជទឹកជ្រៅ 1៖ ការពន្យល់ក្នុងស្រុកទល់នឹងការពន្យល់ជាសកលក្នុងការអនុវត្ត🔍
-
មូលដ្ឋាន ជួយមនុស្សម្នាក់ឱ្យយល់អំពីមូលហេតុដែល ករណី របស់ពួកគេ នោះ - សំខាន់នៅក្នុងបរិបទរសើប។
-
សកល ជួយក្រុមរបស់អ្នកឱ្យប្រាកដថាអាកប្បកិរិយាដែលបានសិក្សារបស់គំរូស្របនឹងគោលការណ៍ និងចំណេះដឹងអំពីដែន។
ធ្វើទាំងពីរ។ អ្នកអាចចាប់ផ្តើមក្នុងស្រុកសម្រាប់ប្រតិបត្តិការសេវាកម្ម បន្ទាប់មកបន្ថែមការត្រួតពិនិត្យជាសកលសម្រាប់ការពិនិត្យឡើងវិញនូវភាពរអាក់រអួល និងយុត្តិធម៌។
Deep-dive 2: ការប្រឆាំងការពិតសម្រាប់ការទាមទារ និងបណ្តឹងឧទ្ធរណ៍🔄
មនុស្សចង់ដឹងពីការផ្លាស់ប្តូរអប្បបរមា ដើម្បីទទួលបានលទ្ធផលប្រសើរជាងមុន។ ការពន្យល់ផ្ទុយស្រឡះ ធ្វើយ៉ាងពិតប្រាកដ - ផ្លាស់ប្តូរកត្តាជាក់លាក់ទាំងនេះ ហើយលទ្ធផលត្រឡប់ [1] ។ ប្រយ័ត្ន៖ អ្នកប្រឆាំងត្រូវគោរព លទ្ធភាព និង យុត្តិធម៌ ។ ការប្រាប់នរណាម្នាក់ឱ្យផ្លាស់ប្តូរគុណលក្ខណៈដែលមិនអាចកែប្រែបានមិនមែនជាផែនការនោះទេ វាគឺជាទង់ក្រហម។
ការជ្រមុជទឹកជ្រៅ ៣៖ ការពិនិត្យអនាម័យ 🧪
ប្រសិនបើអ្នកប្រើផែនទីនៃភាពប្រណិត ឬពណ៌ជម្រាល សូមដំណើរការការត្រួតពិនិត្យអនាម័យ។ បច្ចេកទេសខ្លះបង្កើតផែនទីដែលដូចគ្នាបេះបិទ សូម្បីតែនៅពេលអ្នកកំណត់ប៉ារ៉ាម៉ែត្រគំរូដោយចៃដន្យ មានន័យថា ពួកវាអាចបន្លិចគែម និងវាយនភាព មិនមែនជាភស្តុតាងដែលបានសិក្សាទេ។ ផែនទីកំដៅដ៏ស្រស់ស្អាត រឿងបំភាន់។ បង្កើតការត្រួតពិនិត្យដោយស្វ័យប្រវត្តិទៅក្នុង CI/CD [5] ។
សំនួរដែលសួរញឹកញាប់ដែលកើតឡើងរាល់ការប្រជុំ 🤓
សំណួរ៖ តើ AI ដែលអាចពន្យល់បានដូចគ្នានឹងភាពយុត្តិធម៌ដែរទេ?
ចម្លើយ៖ ទេ ការពន្យល់ជួយអ្នក ឃើញ អាកប្បកិរិយា។ យុត្តិធម៌គឺជាទ្រព្យសម្បត្តិដែលអ្នកត្រូវតែ សាកល្បង និងអនុវត្ត ។ ពាក់ព័ន្ធ, មិនដូចគ្នាបេះបិទ។
សំណួរ: តើម៉ូដែលសាមញ្ញតែងតែប្រសើរជាង?
ចម្លើយ៖ ពេលខ្លះ។ ប៉ុន្តែសាមញ្ញ និងខុសនៅតែខុស។ ជ្រើសរើសម៉ូដែលសាមញ្ញបំផុតដែលបំពេញតាមតម្រូវការនៃការអនុវត្ត និងអភិបាលកិច្ច។
សំណួរ៖ តើការពន្យល់នឹងលេចធ្លាយ IP ដែរឬទេ?
ចម្លើយ៖ ពួកគេអាចធ្វើបាន។ កំណត់ព័ត៌មានលម្អិតតាមទស្សនិកជន និងហានិភ័យ; ចងក្រងឯកសារអ្វីដែលអ្នកបង្ហាញ និងមូលហេតុ។
សំណួរ៖ តើយើងអាចបង្ហាញសារៈសំខាន់នៃមុខងារ ហើយហៅវាថារួចរាល់ទេ?
ចម្លើយ៖ មិនពិតទេ។ របារសារៈសំខាន់ដោយគ្មានបរិបទឬជំនួយគឺជាការតុបតែង។
វែងពេក អត់បានអានកំណែ និងសុន្ទរកថាចុងក្រោយ🌯
AI ដែលអាចពន្យល់បាន គឺជាវិន័យនៃការធ្វើឱ្យអាកប្បកិរិយាគំរូអាចយល់បាន និងមានប្រយោជន៍សម្រាប់មនុស្ស ដែលពឹងផ្អែកលើវា។ ការពន្យល់ដ៏ល្អបំផុតមានភាពស្មោះត្រង់ ស្ថិរភាព និងទស្សនិកជនច្បាស់លាស់។ វិធីសាស្រ្តដូចជា SHAP, LIME, Integrated Gradints, and counterfactuals នីមួយៗមានភាពខ្លាំង - ប្រើពួកវាដោយចេតនា សាកល្បងពួកវាយ៉ាងម៉ត់ចត់ ហើយបង្ហាញវាជាភាសាដែលមនុស្សអាចធ្វើសកម្មភាពបាន។ ហើយត្រូវចាំថា ការមើលឃើញរអិលអាចជាល្ខោន។ ទាមទារភស្តុតាង ការពន្យល់របស់អ្នកឆ្លុះបញ្ចាំងពីអាកប្បកិរិយាពិតរបស់គំរូ។ បង្កើតការពន្យល់ទៅក្នុងវដ្តជីវិតគំរូរបស់អ្នក- វាមិនមែនជាកម្មវិធីបន្ថែមរលោងនោះទេ វាគឺជាផ្នែកនៃរបៀបដែលអ្នកដឹកជញ្ជូនប្រកបដោយទំនួលខុសត្រូវ។
និយាយឱ្យត្រង់ទៅ វាដូចជាការផ្ដល់សំឡេងឱ្យគំរូរបស់អ្នកបន្តិច។ ពេលខ្លះវារអ៊ូរទាំ; ពេលខ្លះវាពន្យល់ហួសហេតុ; ពេលខ្លះវានិយាយយ៉ាងពិតប្រាកដនូវអ្វីដែលអ្នកត្រូវស្តាប់។ ការងាររបស់អ្នកគឺដើម្បីជួយវានិយាយរឿងត្រឹមត្រូវទៅកាន់មនុស្សត្រឹមត្រូវនៅពេលត្រឹមត្រូវ។ ហើយបោះស្លាកល្អឬពីរ។ 🎯
ឯកសារយោង
[1] NIST IR 8312 - គោលការណ៍បួននៃបញ្ញាសិប្បនិម្មិតដែលអាចពន្យល់បាន ។ វិទ្យាស្ថានស្តង់ដារ និងបច្ចេកវិទ្យាជាតិ។ អានបន្ថែម
[2] បទប្បញ្ញត្តិ (EU) 2024/1689 - ច្បាប់បញ្ញាសិប្បនិម្មិត (ទិនានុប្បវត្តិផ្លូវការ/EUR-Lex) ។ អានបន្ថែម
[3] Lundberg & Lee (2017) - "វិធីសាស្រ្តបង្រួបបង្រួមក្នុងការបកស្រាយការព្យាករណ៍គំរូ។" arXiv អានបន្ថែម
[4] Ribeiro, Singh & Guestrin (2016) - "ហេតុអ្វីខ្ញុំគួរទុកចិត្តអ្នក?" ការពន្យល់អំពីការទស្សន៍ទាយរបស់អ្នកចាត់ថ្នាក់ណាមួយ។ arXiv អានបន្ថែម
[5] Adebayo et al ។ (2018) - "ការត្រួតពិនិត្យអនាម័យសម្រាប់ផែនទី Saliency ។" NeurIPS (ក្រដាស PDF) ។ អានបន្ថែម