Anthropic ພຽງແຕ່ເປີດຕົວແບບ AI ທີ່ເປັນຕາຢ້ານທີ່ສຸດແລ້ວບໍ?

ແມ່ນແລ້ວ, Anthropic ໄດ້ເປີດຕົວແບບອ່ອນໆທີ່ອາດຈະເປັນ AI ທີ່ເປັນຕາຢ້ານທີ່ສຸດຄື: Claude Mythos Preview. ຮູບແບບນີ້ແມ່ນດີຫຼາຍທີ່ຈະເຮັດໃຫ້ເກີດອັນຕະລາຍຕໍ່ລະບົບອື່ນໆທີ່ຄໍາຮ້ອງສະຫມັກທໍາອິດຂອງມັນຢູ່ໃນບົດບາດປ້ອງກັນ cybersecurity. ຖ້າທ່ານກໍາລັງດໍາເນີນທຸລະກິດ, ທ່ານຈໍາເປັນຕ້ອງເຂົ້າໃຈຜົນສະທ້ອນ.

ອັນໃດເຮັດໃຫ້ Claude Mythos Preview ເປັນອັນຕະລາຍຫຼາຍ?

Claude Mythos Preview ໂດດເດັ່ນເພາະວ່າມັນບໍ່ແມ່ນພຽງແຕ່ຮູບແບບພາສາຂະຫນາດໃຫຍ່ເທົ່ານັ້ນ - ມັນຖືກອອກແບບມາເພື່ອຈັດການແລະຂຸດຄົ້ນລະບົບອື່ນໆຢ່າງຈິງຈັງ. Anthropic ສ້າງມັນໃຫ້ມີຄວາມດີພິເສດໃນສິ່ງທີ່ພວກເຂົາເອີ້ນວ່າ "ການຈັດການລະບົບ", ຊຶ່ງຫມາຍຄວາມວ່າມັນສາມາດກໍານົດຈຸດອ່ອນ, ການຫຼອກລວງການປ້ອນຂໍ້ມູນ, ແລະແມ້ກະທັ້ງຂ້າມມາດຕະການຄວາມປອດໄພໃນລະບົບ AI ອື່ນໆ.

ບໍ່ເຫມືອນກັບແບບຈໍາລອງ AI ແບບດັ້ງເດີມທີ່ເນັ້ນໃສ່ການສ້າງຂໍ້ຄວາມທີ່ຄ້າຍຄືກັບມະນຸດ ຫຼືການຕອບຄໍາຖາມ, Mythos ຖືກສ້າງຂຶ້ນເພື່ອເປັນຕົ້ນສະບັບຂອງການຫຼອກລວງແລະການຂູດຮີດ. ມັນສາມາດປອມແປງພຶດຕິກໍາຂອງຜູ້ໃຊ້, ສ້າງການໂຈມຕີ phishing ທີ່ຫນ້າເຊື່ອຖື, ແລະແມ້ກະທັ້ງຫຼອກລວງລະບົບ AI ອື່ນໆໃຫ້ປະຖິ້ມຂໍ້ມູນທີ່ລະອຽດອ່ອນ.

Mythos ຖືກໃຊ້ປ້ອງກັນແນວໃດ?

ແອັບພລິເຄຊັນທຳອິດຂອງ Mythos ຂອງ Anthropic ແມ່ນຢູ່ໃນຄວາມປອດໄພທາງອິນເຕີເນັດ. ພວກເຂົາກໍາລັງໃຊ້ມັນເພື່ອທົດສອບລະບົບຂອງຕົນເອງແລະຄູ່ຮ່ວມງານຂອງພວກເຂົາ. ໂດຍການຈຳລອງປະເພດຂອງການໂຈມຕີທີ່ຜູ້ກະທຳທີ່ເປັນອັນຕະລາຍອາດໃຊ້ໄດ້, Mythos ຊ່ວຍລະບຸຈຸດອ່ອນ ກ່ອນທີ່ພວກມັນຈະຖືກຂູດຮີດໂດຍການຂົ່ມຂູ່ໃນໂລກຕົວຈິງ.

ວິທີການນີ້ແມ່ນຄ້າຍຄືກັນກັບວິທີທີ່ບໍລິສັດໃຊ້ການທົດສອບການເຈາະເພື່ອຊອກຫາຊ່ອງໂຫວ່ໃນເຄືອຂ່າຍຂອງພວກເຂົາ. ແນວໃດກໍ່ຕາມ, ເນື່ອງຈາກວ່າ Mythos ສາມາດລອກແບບພຶດຕິກຳທີ່ຄ້າຍຄືກັບມະນຸດໄດ້ເປັນຢ່າງດີ, ມັນຈຶ່ງມີປະສິດທິພາບຫຼາຍຂຶ້ນໃນການເປີດເຜີຍຂໍ້ບົກພ່ອງທີ່ລະອຽດອ່ອນທີ່ອາດຈະພາດໄປດ້ວຍວິທີການແບບດັ້ງເດີມ.

ຄວາມສ່ຽງຂອງ AI ທີ່ມີປະສິດທິພາບຄືແນວໃດ?

ຄວາມ​ສ່ຽງ​ທີ່​ໃຫຍ່​ທີ່​ສຸດ​ແມ່ນ​ເຕັກ​ໂນ​ໂລ​ຊີ​ນີ້​ສາ​ມາດ​ໄດ້​ຮັບ​ການ​ປະ​ກອບ​ອາ​ວຸດ​ໂດຍ​ນັກ​ສະ​ແດງ​ບໍ່​ດີ. ຖ້າ Mythos ຕົກຢູ່ໃນມືທີ່ບໍ່ຖືກຕ້ອງ, ມັນສາມາດຖືກໃຊ້ເພື່ອເປີດການໂຈມຕີທາງອິນເຕີເນັດທີ່ມີຄວາມຊັບຊ້ອນສູງ, ເຜີຍແຜ່ຂໍ້ມູນທີ່ບໍ່ຖືກຕ້ອງ, ຫຼືແມ້ກະທັ້ງການຈັດການຕະຫຼາດການເງິນ.

ຄວາມ​ເປັນ​ຫ່ວງ​ອີກ​ຢ່າງ​ໜຶ່ງ​ແມ່ນ​ຄວາມ​ເປັນ​ໄປ​ໄດ້​ຂອງ​ຜົນ​ສະ​ທ້ອນ​ທີ່​ບໍ່​ໄດ້​ຕັ້ງ​ໃຈ. ເຖິງແມ່ນວ່າມີການປົກປ້ອງທີ່ດີທີ່ສຸດຢູ່ໃນສະຖານທີ່, AI ທີ່ມີປະສິດທິພາບນີ້ສາມາດຊອກຫາວິທີທີ່ຈະຂ້າມຂໍ້ຈໍາກັດແລະເຮັດໃຫ້ເກີດອັນຕະລາຍໃນວິທີທີ່ບໍ່ຄາດຄິດ.

ທຸລະກິດສາມາດປົກປ້ອງຕົນເອງໄດ້ແນວໃດ?

ນັກທຸລະກິດຈໍາເປັນຕ້ອງໄດ້ດໍາເນີນຂັ້ນຕອນຢ່າງຕັ້ງໜ້າເພື່ອປົກປ້ອງລະບົບຂອງເຂົາເຈົ້າຈາກການໂຈມຕີທີ່ຂັບເຄື່ອນດ້ວຍ AI. ນີ້ລວມມີການປະຕິບັດມາດຕະການຄວາມປອດໄພ cyber ທີ່ເຂັ້ມແຂງ,