ຜູ້ຊ່ຽວຊານມີສຽງເຕືອນຫຼັງຈາກ ChatGPT Health ບໍ່ສາມາດຮັບຮູ້ເຫດສຸກເສີນທາງການແພດ

ເມື່ອ AI ເຮັດຜິດ: ຊ່ອງຫວ່າງອັນຕະລາຍໃນເຄື່ອງມືສຸຂະພາບທີ່ຂັບເຄື່ອນດ້ວຍ AI

ປັນຍາປະດິດຄວນປະຕິວັດການເຂົ້າເຖິງການດູແລສຸຂະພາບ. ປະຊາຊົນຫຼາຍລ້ານຄົນໃນທົ່ວໂລກໃນປັດຈຸບັນຫັນໄປຫາ AI chatbots ສໍາລັບການແນະນໍາທາງການແພດກ່ອນທີ່ຈະເຄີຍເວົ້າກັບທ່ານຫມໍ - ອະທິບາຍອາການ, ຊອກຫາຄວາມຫມັ້ນຄົງ, ແລະໄວ້ວາງໃຈການຕອບສະຫນອງ algorithmic ກັບສະຫວັດດີການຂອງເຂົາເຈົ້າ. ແຕ່ການຮ້ອງຮຽນຂອງຜູ້ຊ່ຽວຊານດ້ານການແພດແລະນັກຄົ້ນຄວ້າ AI ເພີ່ມຂຶ້ນເປັນຄວາມກັງວົນອັນຮີບດ່ວນ: ບາງເຄື່ອງມືສຸຂະພາບ AI ທີ່ຖືກນໍາໃຊ້ຢ່າງກວ້າງຂວາງທີ່ສຸດແມ່ນບໍ່ສາມາດກໍານົດເຫດການສຸກເສີນທີ່ເປັນອັນຕະລາຍເຖິງຊີວິດ, ເຊິ່ງອາດຈະເຮັດໃຫ້ຜູ້ໃຊ້ມີຄວາມສ່ຽງຮ້າຍແຮງ. ຜົນກະທົບດັ່ງກ່າວຂະຫຍາຍອອກໄປໄກກວ່າການດູແລສຸຂະພາບ, ບັງຄັບໃຫ້ທຸກໆອຸດສາຫະກໍາປະເຊີນກັບຄໍາຖາມທີ່ບໍ່ສະບາຍກ່ຽວກັບເຄື່ອງມື AI ທີ່ພວກເຂົາຂຶ້ນກັບປະຈໍາວັນ.

ການປະເມີນຫຼ້າສຸດຂອງຜູ້ຊ່ວຍສຸຂະພາບທີ່ໃຊ້ AI ໄດ້ເປີດເຜີຍຈຸດຕາບອດທີ່ເປັນຕາຕົກໃຈ. ໃນສະຖານະການການທົດສອບທີ່ຄວບຄຸມ, ເຄື່ອງມືເຫຼົ່ານີ້ໄດ້ຖືກລາຍງານວ່າບໍ່ມີສັນຍານເຕືອນໄພຄລາສສິກຂອງເງື່ອນໄຂເຊັ່ນ: ເສັ້ນເລືອດຕັນໃນ, ການໂຈມຕີຫົວໃຈ, ແລະ sepsis - ສະຖານະການທີ່ທຸກໆນາທີຂອງການປິ່ນປົວທີ່ຊັກຊ້າສາມາດຫມາຍເຖິງຄວາມແຕກຕ່າງລະຫວ່າງການຟື້ນຕົວແລະຄວາມເສຍຫາຍຖາວອນ. ເມື່ອ chatbot ຕອບສະຫນອງກັບອາການຂອງ embolism pulmonary ທີ່ມີຄໍາແນະນໍາທີ່ຈະ "ພັກຜ່ອນແລະຕິດຕາມ," ຜົນສະທ້ອນບໍ່ແມ່ນທິດສະດີ. ພວກມັນຖືກວັດແທກໃນຊີວິດ.

ສິ່ງທີ່ຜູ້ຊ່ຽວຊານດ້ານການແພດເຫັນຕົວຈິງ

ແພດ​ສຸກ​ເສີນ ແລະ​ຜູ້​ຊ່ຽວ​ຊານ​ດ້ານ​ການ​ດູ​ແລ​ທີ່​ສໍາ​ຄັນ​ໄດ້​ເລີ່ມ​ຕົ້ນ​ການ​ເອ​ກະ​ສານ​ກໍ​ລະ​ນີ​ທີ່​ຄົນ​ເຈັບ​ມາ​ເຖິງ​ໂຮງ​ຫມໍ​ຊ້າ​ອັນ​ຕະ​ລາຍ, ໂດຍ​ທໍາ​ອິດ​ໄດ້​ປຶກ​ສາ​ຫາ​ລື AI chatbots ທີ່​ບໍ່​ສາ​ມາດ​ບັນ​ທຶກ​ຄວາມ​ຮີບ​ດ່ວນ. ຄໍາແນະນໍາຂອງດຣ. ຈາກເຄື່ອງມື AI ມັກຈະອ່ານວ່າເປັນໄປໄດ້ແລະສະຫງົບ - ເຊິ່ງເປັນບັນຫາທີ່ຊັດເຈນ. ການຕອບສະ ໜອງ ທີ່ ໝັ້ນ ໃຈຕໍ່ຜູ້ໃດຜູ້ ໜຶ່ງ ທີ່ປະສົບກັບອາການເຈັບຫນ້າເອິກແລະການຫາຍໃຈສັ້ນບໍ່ພຽງແຕ່ພາດການວິນິດໄສເທົ່ານັ້ນ; ມັນຂັດຂວາງຄົນນັ້ນຢ່າງຈິງຈັງຈາກການຊອກຫາການດູແລສຸກເສີນທີ່ເຂົາເຈົ້າຕ້ອງການ.

ການສຶກສາທີ່ກວດສອບຄວາມຖືກຕ້ອງຂອງ AI Health chatbot ໄດ້ພົບເຫັນອັດຕາຄວາມຜິດພາດທີ່ບໍ່ສາມາດຍອມຮັບໄດ້ໃນການຕັ້ງຄ່າທາງດ້ານການຊ່ວຍໃດໆ. ການວິເຄາະທີ່ອ້າງເຖິງຢ່າງກວ້າງຂວາງຫນຶ່ງພົບວ່າຜູ້ຊ່ວຍ AI ທີ່ນິຍົມໄດ້ກໍານົດຢ່າງຖືກຕ້ອງກ່ຽວກັບຄວາມຈໍາເປັນຂອງການແຊກແຊງສຸກເສີນໃນຫນ້ອຍກວ່າ 50% ຂອງກໍລະນີທີ່ກ່ຽວຂ້ອງກັບອາການສ້ວຍແຫຼມຮ້າຍແຮງ. ສໍາລັບສະພາບການ, ນັກສຶກສາແພດປີທໍາອິດທີ່ໄດ້ຮັບການຝຶກອົບຮົມໃນ triage protocols ຄາດວ່າຈະລາຍງານສະຖານະການດຽວກັນເຫຼົ່ານີ້ດ້ວຍຄວາມຖືກຕ້ອງທີ່ໃກ້ຄຽງ. ຊ່ອງຫວ່າງບໍ່ຢູ່ຂອບ—ມັນເປັນຊ່ອງຫວ່າງ.

ບັນຫາຮາກບໍ່ແມ່ນວ່າ AI ຂາດຄວາມຮູ້ທາງການແພດ. ຮູບແບບພາສາຂະຫນາດໃຫຍ່ໄດ້ສະແດງໃຫ້ເຫັນເຖິງການປະຕິບັດທີ່ຫນ້າປະທັບໃຈໃນການສອບເສັງໃບອະນຸຍາດທາງການແພດແລະສາມາດຈື່ຈໍາວັນນະຄະດີທາງດ້ານການຊ່ວຍຈໍານວນຫຼວງຫຼາຍ. ຄວາມລົ້ມເຫຼວແມ່ນຢູ່ໃນການໃຫ້ເຫດຜົນໃນສະພາບການພາຍໃຕ້ຄວາມບໍ່ແນ່ນອນ - ຄວາມສາມາດໃນການຊັ່ງນໍ້າຫນັກອາການຂອງການແຂ່ງຂັນ, ຮັບຮູ້ການນໍາສະເຫນີທີ່ຜິດປົກກະຕິ, ແລະຄວາມຜິດພາດຂອງຄວາມລະມັດລະວັງໃນເວລາທີ່ຄວາມບໍ່ແນ່ນອນສູງ. ເຫຼົ່ານີ້ແມ່ນທັກສະທີ່ຊັດເຈນທີ່ແພດທີ່ມີປະສົບການພັດທະນາໃນການປະຕິບັດຫຼາຍປີແລະສະຖາປັດຕະຍະກໍາ AI ໃນປະຈຸບັນພະຍາຍາມເຮັດຊ້ໍາກັນຢ່າງຫນ້າເຊື່ອຖື.

ເປັນຫຍັງ AI ຈຶ່ງຕໍ່ສູ້ກັບການຕັດສິນໃຈທີ່ມີສະເຕກສູງ

ເພື່ອ​ເຂົ້າ​ໃຈ​ວ່າ​ເປັນ​ຫຍັງ​ເຄື່ອງ​ມື​ດ້ານ​ສຸ​ຂະ​ພາບ AI ຈຶ່ງ​ລົ້ມ​ເຫຼວ​ໃນ​ການ​ຮັບ​ຮູ້​ສຸກ​ເສີນ, ມັນ​ຈະ​ຊ່ວຍ​ໃຫ້​ເຂົ້າ​ໃຈ​ວ່າ​ຕົວ​ແບບ​ພາ​ສາ​ທີ່​ໃຫຍ່​ຕົວ​ຈິງ​ເຮັດ​ວຽກ​ໄດ້​ແນວ​ໃດ. ລະບົບເຫຼົ່ານີ້ສ້າງຄໍາຕອບໂດຍອີງໃສ່ຮູບແບບສະຖິຕິໃນຂໍ້ມູນການຝຶກອົບຮົມ. ພວກມັນຖືກປັບປຸງໃຫ້ເໝາະສົມເພື່ອຜະລິດຂໍ້ຄວາມທີ່ມີປະໂຫຍດ, ສົນທະນາ ແລະເໝາະສົມກັບບໍລິບົດ — ບໍ່ໃຫ້ເຮັດວຽກເປັນເຄື່ອງມືວິນິດໄສທີ່ມີເກນຄວາມປອດໄພໃນຕົວ. ເມື່ອຜູ້ໃຊ້ອະທິບາຍອາການ, ຮູບແບບດັ່ງກ່າວບໍ່ໄດ້ດໍາເນີນການໃຫ້ເຫດຜົນທາງດ້ານຄລີນິກ; ມັນຄາດຄະເນວ່າການຕອບໂຕ້ທີ່ເປັນປະໂຫຍດຈະມີລັກສະນະແນວໃດໂດຍອີງໃສ່ຮູບແບບທີ່ມັນໄດ້ຮຽນຮູ້.

ອັນນີ້ສ້າງຄວາມບໍ່ສອດຄ່ອງພື້ນຖານລະຫວ່າງຄວາມຄາດຫວັງຂອງຜູ້ໃຊ້ ແລະຄວາມສາມາດຂອງລະບົບ. ຄົນທີ່ພິມ "ຂ້ອຍມີອາການປວດຫົວຢ່າງກະທັນຫັນແລະວິໄສທັດຂອງຂ້ອຍມົວ" ຄາດວ່າ AI ຈະເຂົ້າໃຈແຮງໂນ້ມຖ່ວງຂອງສະຖານະການຂອງພວກເຂົາ. ຮູບແບບດັ່ງກ່າວ, ແນວໃດກໍ່ຕາມ, ອາດຈະສ້າງການຕອບສະຫນອງທີ່ແກ້ໄຂອາການເຈັບຫົວໂດຍທົ່ວໄປ - ແນະນໍາການໃຫ້ນ້ໍາ, ການພັກຜ່ອນ, ຫຼືການບັນເທົາອາການເຈັບປວດຈາກຮ້ານຂາຍຢາ - ເນື່ອງຈາກວ່າຄໍາຕອບເຫຼົ່ານັ້ນປາກົດເລື້ອຍໆໃນຂໍ້ມູນການຝຶກອົບຮົມຂອງມັນສໍາລັບການສອບຖາມທີ່ກ່ຽວຂ້ອງກັບອາການເຈັບຫົວ. ຄວາມເປັນໄປໄດ້ທາງສະຖິຕິຂອງສາເຫດທີ່ອ່ອນເພຍໄດ້ຄອບງຳບັນດາກໍລະນີທີ່ສຳຄັນໜ້ອຍໜຶ່ງ ທີ່ອາການເຫຼົ່ານັ້ນບົ່ງບອກເຖິງພາວະສຸກເສີນທາງການແພດເຊັ່ນ: ເລືອດອອກ subarachnoid.

ໂຫມດຄວາມລົ້ມເຫລວທີ່ອັນຕະລາຍທີ່ສຸດຂອງ AI ບໍ່ໄດ້ເກີດສິ່ງທີ່ຜິດພາດຢ່າງສິ້ນເຊີງ — ມັນມີຄວາມເຊື່ອໝັ້ນ, ສົມເຫດສົມຜົນ, ເກືອບຖືກຕ້ອງໃນສະຖານະການທີ່ "ເກືອບ" ສາມາດເຮັດໃຫ້ບາງຄົນເສຍຊີວິດ ຫຼື ທຸລະກິດຂອງເຂົາເຈົ້າ.

ນອກເໜືອໄປຈາກການດູແລສຸຂະພາບ: ບັນຫາຄວາມໄວ້ວາງໃຈທີ່ປະເຊີນກັບທຸກອຸດສາຫະກຳ

​ໃນ​ຂະນະ​ທີ່​ຄວາມ​ລົ້ມ​ເຫຼວ​ໃນ​ການ​ຮັກສາ​ສຸຂະພາບ​ແມ່ນ​ຮ້າຍ​ແຮງ​ທີ່​ສຸດ, ບັນຫາ​ພື້ນຖານ​ໄດ້​ຂະຫຍາຍ​ໄປ​ສູ່​ທຸກ​ຂະ​ແໜງ​ການ​ທີ່​ທຸລະ​ກິດ ​ແລະ ບຸກຄົນ​ອີງ​ໃສ່ AI ສຳລັບ​ການ​ຕັດສິນ​ໃຈ​ທີ່​ຕາມ​ມາ. ບໍລິສັດບໍລິການທາງດ້ານການເງິນທີ່ໃຊ້ AI ສໍາລັບການກວດສອບການສໍ້ໂກງປະເຊີນກັບຄວາມສ່ຽງທີ່ຄ້າຍຄືກັນ - ລະບົບທີ່ຈັບ 95% ຂອງທຸລະກໍາການສໍ້ໂກງສຽງທີ່ຫນ້າປະທັບໃຈຈົນກວ່າທ່ານຈະຄິດໄລ່ການສູນເສຍຈາກ 5% ທີ່ມັນພາດໄປ. ທີມງານທາງດ້ານກົດໝາຍທີ່ໃຊ້ AI ເພື່ອທົບທວນສັນຍາອາດຈະພົບວ່າເຄື່ອງມືສະຫຼຸບຂໍ້ຫຍໍ້ຕ່າງໆຢ່າງໝັ້ນໃຈ ໃນຂະນະທີ່ຂາດການເປີດເຜີຍຄວາມຮັບຜິດຊອບທີ່ສຳຄັນທີ່ຝັງຢູ່ໃນພາສາທີ່ສັບສົນ.

ສຳລັບທຸລະກິດ 138,000+ ທີ່ໃຊ້ແພລດຟອມເຊັ່ນ Mewayz ເພື່ອຈັດການການດຳເນີນງານ — ຈາກ CRM ແລະການອອກໃບແຈ້ງໜີ້ເຖິງ HR ແລະການວິເຄາະ — ບົດຮຽນຈາກຄວາມລົ້ມເຫຼວຂອງເຄື່ອງມືສຸຂະພາບຂອງ AI ແມ່ນຈະແຈ້ງ: ອັດຕະໂນມັດຄວນຂະຫຍາຍການຕັດສິນຂອງມະນຸດ, ບໍ່ເຄີຍປ່ຽນແທນມັນທັງໝົດໃນຂັ້ນຕອນການເຮັດວຽກທີ່ສຳຄັນ. ນີ້ແມ່ນເຫດຜົນທີ່ວ່າເວທີທຸລະກິດທີ່ຮັບຜິດຊອບສ້າງ AI ເປັນຊັ້ນເສີມທີ່ມີຈຸດກວດກາຂອງມະນຸດ, ແທນທີ່ຈະເປັນຜູ້ຕັດສິນໃຈອັດຕະໂນມັດທີ່ດໍາເນີນການໂດຍບໍ່ມີການກວດກາ.

ທຸລະກິດທີ່ຈະຈະເລີນຮຸ່ງເຮືອງໃນຍຸກ AI ແມ່ນຜູ້ທີ່ເຂົ້າໃຈບ່ອນທີ່ຈະນຳໃຊ້ລະບົບອັດຕະໂນມັດແບບຮຸກຮານ ແລະ ບ່ອນທີ່ຈະຮັກສາການຄວບຄຸມຂອງມະນຸດ. ການນັດໝາຍການນັດໝາຍ, ການສ້າງການແຈ້ງເຕືອນໃບແຈ້ງໜີ້, ຕິດຕາມການຂົນສົ່ງຂອງເຮືອ, ການວິເຄາະທ່າອ່ຽງຂອງລູກຄ້າ - ເຫຼົ່ານີ້ແມ່ນໂດເມນທີ່ລະບົບອັດຕະໂນມັດ AI ມອບມູນຄ່າອັນໃຫຍ່ຫຼວງໂດຍມີຄວາມສ່ຽງໜ້ອຍທີ່ສຸດ. ແຕ່ການຕັດສິນໃຈທີ່ກ່ຽວຂ້ອງກັບການປະຕິບັດຕາມ, ສະຫວັດດີການຂອງພະນັກງານ, ຄໍາຫມັ້ນສັນຍາທາງດ້ານການເງິນ, ຫຼືຄວາມຕ້ອງການຄວາມປອດໄພຂອງລູກຄ້າ, ການທົບທວນຄືນຈາກມະນຸດ, ບໍ່ວ່າເຕັກໂນໂລຊີພື້ນຖານຈະກາຍເປັນຊັບຊ້ອນ.

ຫ້າຫຼັກການສໍາລັບການຮັບຮອງເອົາ AI ທີ່ມີຄວາມຮັບຜິດຊອບໃນທຸລະກິດ

ຄວາມລົ້ມເຫລວຂອງເຄື່ອງມືສຸຂະພາບຂອງ AI ສະເໜີກອບການປະຕິບັດສໍາລັບອົງການໃດນຶ່ງທີ່ປະເມີນວິທີການລວມເອົາ AI ເຂົ້າໃນການປະຕິບັດງານຂອງເຂົາເຈົ້າ. ຫຼັກ​ການ​ເຫຼົ່າ​ນີ້​ໃຊ້​ໄດ້​ບໍ່​ວ່າ​ທ່ານ​ກໍາ​ລັງ​ດໍາ​ເນີນ​ການ​ເລີ່ມ​ຕົ້ນ​ການ​ດູ​ແລ​ສຸ​ຂະ​ພາບ​ຫຼື​ການ​ຄຸ້ມ​ຄອງ​ບໍ​ລິ​ສັດ 50 ຄົນ​ບໍ​ລິ​ການ​:

1. ກຳນົດລັດສະໝີລະເບີດ. ກ່ອນທີ່ຈະນຳໃຊ້ເຄື່ອງມື AI ໃດໆກໍຕາມ, ໃຫ້ວາງແຜນສະຖານະການທີ່ຮ້າຍແຮງທີ່ສຸດຫາກມັນລົ້ມເຫລວ. ຖ້າຜົນສະທ້ອນແມ່ນເປັນເລື່ອງເລັກໆນ້ອຍໆ (ເສັ້ນຫົວຂໍ້ອີເມວທີ່ສ້າງຂື້ນໂດຍອັດຕະໂນມັດເລັກນ້ອຍ), ໃຫ້ອັດຕະໂນມັດຢ່າງເສລີ. ຖ້າຜົນສະທ້ອນຮ້າຍແຮງ (ເສັ້ນຕາຍການຈ່າຍເງິນເດືອນທີ່ພາດໄປ, ການຍື່ນພາສີບໍ່ຖືກຕ້ອງ, ການຮ້ອງຮຽນຂອງລູກຄ້າທີ່ຜິດພາດ), ສ້າງຂັ້ນຕອນການກວດສອບໂດຍມະນຸດ.
2. ປະຕິບັດຄວາມໝັ້ນໃຈຂອງ AI ເປັນສັນຍານ, ບໍ່ແມ່ນການຕັດສິນ. ຕົວຈິງແລ້ວລະບົບ AI ບໍ່ໄດ້ "ຮູ້" ສິ່ງຕ່າງໆ — ພວກມັນສ້າງຜົນໄດ້ຮັບທີ່ເປັນໄປໄດ້. chatbot ທີ່ເວົ້າວ່າ "ນີ້ອາດຈະເປັນບັນຫາເລັກນ້ອຍ" ບໍ່ແມ່ນການວິນິດໄສ; ມັນກົງກັບຮູບແບບ. ນຳໃຊ້ຄວາມສົງໄສດຽວກັນກັບຄວາມເຂົ້າໃຈທາງທຸລະກິດທີ່ສ້າງໂດຍ AI, ການຄາດການດ້ານການເງິນ ແລະຄຳແນະນຳການດຳເນີນງານ.
3. ກວດສອບຢ່າງຕໍ່ເນື່ອງ, ບໍ່ພຽງແຕ່ຢູ່ໃນການໃຊ້ງານ. ສ້າງຮອບທົບທວນປົກກະຕິທີ່ຜູ້ຊ່ຽວຊານຂອງມະນຸດປະເມີນຜົນໄດ້ຮັບຂອງ AI ຕໍ່ກັບຄວາມຈິງ. ອັນນີ້ເປັນສິ່ງສໍາຄັນສໍາລັບ dashboard ການວິເຄາະທຸລະກິດຂອງທ່ານຍ້ອນວ່າມັນແມ່ນສໍາລັບ AI ທາງການແພດ.
4. ຮັກສາເສັ້ນທາງກັບຄືນ. ທຸກໆຂັ້ນຕອນການເຮັດວຽກທີ່ຂັບເຄື່ອນດ້ວຍ AI ຄວນມີເສັ້ນທາງທີ່ເພີ່ມຂຶ້ນຢ່າງຈະແຈ້ງຕໍ່ກັບຜູ້ຕັດສິນໃຈຂອງມະນຸດ. ຖ້າການສະຫນັບສະຫນູນລູກຄ້າແບບອັດຕະໂນມັດຂອງທ່ານບໍ່ສາມາດແກ້ໄຂບັນຫາໃນສອງການແລກປ່ຽນ, ມັນຄວນຈະສົ່ງຕໍ່ບຸກຄົນໃດຫນຶ່ງຢ່າງບໍ່ຢຸດຢັ້ງ - ບໍ່ໃຫ້ລູກຄ້າຜ່ານຄໍາແນະນໍາທີ່ບໍ່ກ່ຽວຂ້ອງຫຼາຍຂຶ້ນ.
5. ເລືອກເວທີທີ່ແບ່ງປັນປັດຊະຍານີ້. ເຄື່ອງມືທີ່ທ່ານສ້າງທຸລະກິດຂອງທ່ານສະທ້ອນເຖິງຄຸນຄ່າຂອງທ່ານກ່ຽວກັບຄວາມໜ້າເຊື່ອຖື ແລະຄວາມຮັບຜິດຊອບ. ເວທີເຊັ່ນ Mewayz ທີ່ປະສົມປະສານລະບົບອັດຕະໂນມັດ AI ໃນທົ່ວ 207 ໂມດູນ - ຈາກລະບົບການຈອງໄປຫາບັນຊີເງິນເດືອນ - ເຮັດແນວນັ້ນດ້ວຍຄວາມເຂົ້າໃຈວ່າອັດຕະໂນມັດຈັດການປະລິມານໃນຂະນະທີ່ມະນຸດຈັດການກັບການຕັດສິນ.