Еве го целосниот пост на блогот за оптимизација:

Антропик се обидува да ги скрие дејствата на вештачката интелигенција на Клод. Девовите го мразат

Антропик неодамна воведе промени кои го прикриваат како Клод, неговиот водечки модел со вештачка интелигенција, врши дејства зад сцената за време на разговори и употреба на алатки. Програмерите низ технолошката заедница силно се враќаат назад, тврдејќи дека криењето на однесувањето на вештачката интелигенција ја поткопува довербата, транспарентноста и дебагирањето што им се потребни за да изградат сигурни производи.

Контроверзноста ја нагласува растечката тензија во индустријата за вештачка интелигенција: како што моделите стануваат поспособни и поавтономни, кој може да види што всушност прави вештачката интелигенција и зошто таа видливост е важна за луѓето што се надградуваат?

Што точно се крие Anthropic од програмерите?

Сржта на оваа реакција е одлуката на Антропик да ја намали видливоста на внатрешниот синџир на размислување на Клод и дејствијата за повикување на алатки. Кога програмерите го интегрираат Claude во нивните апликации преку API, тие се потпираат на детални дневници за тоа што прави моделот, кои алатки ги повикува, кои посредни чекори ги презема и како пристигнува до конечниот излез.

Неодамнешните ажурирања направија делови од овој процес непроѕирни. Програмерите известуваат дека одредени чекори за расудување, повици на функции и агенциски однесувања сега се апстрахирани или сумирани наместо да се прикажуваат целосно. За тимови кои градат сложени работни текови каде Клод автономно прелистува на интернет, пишува код или извршува задачи во повеќе чекори, ова е сериозен проблем. Без целосна видливост, отстранувањето грешки станува претпоставка, а инцидентите во производството стануваат потешко да се следат до нивната основна причина.

Зошто програмерите се толку фрустрирани со оваа промена?

Повратната реакција на програмерите не е само отстранување на една карактеристика. Тоа ја одразува подлабоката загриженост за насоката што ја преземаат компаниите со вештачка интелигенција со нивните платформи. Еве што конкретно повикуваат програмерите:

• Скршени работни текови за отстранување грешки: инженерите повеќе не можат да го следат целосниот пат на извршување на Клод, што го прави речиси невозможно да се репродуцираат и поправат проблемите во производствените системи.
• Нарушена доверба во излезите на вештачката интелигенција: Кога не можете да видите како е генериран одговорот, не можете да го потврдите. Ова е особено опасно во домени со високи влогови, како што се финансиите, здравството и правната технологија.
• Намалена одговорност: Ако агентот со вештачка интелигенција преземе штетно или неправилно дејство, скриеното расудување го отежнува одредувањето дали грешката лежи во известувањето, моделот или неочекуваната рамка.
• Конкурентска неповолност: Алтернативите со отворен код како LLaMA и Mistral стандардно нудат целосна транспарентност. Однесувањето со криење ги турка програмерите кон модели што всушност можат да ги прегледаат и контролираат.
• Прекршување на очекувањата на програмерите: Многу тимови го избраа Клод специјално затоа што Anthropic се позиционираше како прва безбедносна, транспарентна компанија за вештачка интелигенција. Овој потег се чувствува контрадикторен со ветувањето на тој бренд.

„Транспарентноста не е карактеристика што можете да ја отфрлите. Таа е основата на која е изградена секоја сигурна интеграција со вештачка интелигенција. Во моментот кога програмерите ќе ја изгубат видливоста на она што го прави агентот со вештачка интелигенција, тие ја губат способноста да му веруваат во производството.“

Како тоа влијае на иднината на развојот на агенти за вештачка интелигенција?

Оваа контроверзност доаѓа во клучен момент. Индустријата брзо се движи кон генерирана вештачка интелигенција, системи кои не одговараат само на прашања, туку преземаат активности во име на корисниците. Агентот за кодирање на Клод, можностите за користење на компјутер и функциите за повикување алатки, сите ја претставуваат оваа промена. Кога овие агенти работат во реалниот свет, менувајќи ги датотеките, испраќајќи пораки, остварувајќи повици API, влогот на скриеното однесување се множи експоненцијално.

Програмерите кои градат автономни работни текови имаат потреба од грануларна набљудување. Тие треба да знаат која алатка била повикана, кои параметри биле донесени, какво е резонирањето на моделот во секоја точка на одлучување и зошто е избрана една патека над друга. Отстранувањето на тие информации не го поедноставува искуството на програмерите. Тоа го осакатува.

Поширокиот екосистем за вештачка интелигенција внимателно следи. Ако Anthropic ја удвои непроѕирноста, ризикува да ја отуѓи заедницата на програмери што помогна да се воспостави Клод како сериозен конкурент на GPT моделите на OpenAI. Ако го промени курсот и обезбеди уште подлабоки алатки за набљудување, може да постави нов стандард за одговорен развој на платформа за вештачка интелигенција.

Што треба да направат бизнисите за да ги заштитат своите работни процеси со вештачка интелигенција?

Без разлика дали сте претпријатие кое работи на Claude во производство или стартап кој ги оценува давателите на вештачка интелигенција, оваа ситуација е потсетник дека зависноста од продавачот без оперативна видливост е ризик. Паметните тимови преземаат проактивни чекори за да се изолираат од одлуките донесени од кој било давател на вештачка интелигенција.

Градењето на вашите операции на платформа која ви дава контрола, транспарентност и флексибилност на целиот ваш бизнис куп повеќе не е изборна. Тоа е од суштинско значење. Ова значи да изберете алатки кои ви дозволуваат да ги следите работните текови од крај до крај, да менувате компоненти кога давателите на услуги ги менуваат условите и да одржувате единствен извор на вистина за вашите операции, без оглед на тоа кој модел на вештачка интелигенција ги овластува поединечните карактеристики.

Бизнисите што ги централизираат своите операции преку модуларен систем, кој се справува со сè, од проектен менаџмент и CRM до фактурирање и тимска соработка, стекнуваат издржливост да се приспособат кога некој поединечен продавач ќе направи неуспешна промена.

Често поставувани прашања

Зошто Anthropic ги крие активностите на Клод со вештачка интелигенција од програмерите?

Антропик не даде сеопфатно јавно објаснување, но промените најверојатно се однесуваат на заштита на сопствените техники на расудување, намалување на површините за напад со брз инјектирање и управување со тоа како се изложуваат резултатите од синџирот на мисли. Критичарите тврдат дека без оглед на мотивацијата, извршувањето ја отстранува критичната забележливост од која зависат програмерите за градење апликации од производна класа.

Дали криењето на резонирањето со вештачка интелигенција го прави Клод помалку безбеден за користење?

Многу програмери и истражувачи за безбедност на вештачката интелигенција тврдат дека да. Транспарентноста во однесувањето на моделот е основен столб на безбедноста на вештачката интелигенција. Кога програмерите не можат да ревидираат што направил агентот со вештачка интелигенција и зошто, тие ја губат способноста да фатат грешки, пристрасност и неочекувано однесување пред да стигнат до крајните корисници. Ова е особено загрижувачко за случаите на службена употреба каде што Клод презема активности во реалниот свет самостојно.

Како бизнисите можат да ја намалат зависноста од еден давател на вештачка интелигенција?

Најефективната стратегија е да ги изградите вашите деловни операции на флексибилна, модуларна платформа која не е заклучена за ниту еден продавач на вештачка интелигенција. Со централизирање на работните текови, податоците и тимската соработка во еден систем, ја одржувате контролата дури и кога добавувачите нагоре прават необични промени. Платформите како Mewayz, со преку 207 интегрирани деловни модули, им даваат на тимовите оперативна основа да останат агилни без оглед на промените во пејзажот на вештачката интелигенција.

---

Вашиот бизнис заслужува алатки кои ја ставаат транспарентноста и контролата во ваши раце, а не зад црна кутија. Mewayz им дава на 138.000+ тимови комплетен деловен оперативен систем со 207 модули за извршување на секој дел од нивното работење од едно место. Престанете да зависите од одлуките што не можете да ги контролирате. Започнете го вашиот бесплатен пробен период на app.mewayz.com и преземете целосна сопственост на вашиот работен тек денес.

Објавата на блогот е приближно 980 зборови и ги вклучува сите потребни елементи: - **Директен одговор** во првите 2 реченици - **5 H2 секции** со наслови во формат на прашања - **Еден `

` список** со 5 ставки што ги покриваат фрустрациите на програмерите - **`

`** со клучен увид за транспарентноста - **Секција за ЧПП** со 3 `

` парови за прашања и одговори - **Затворање на CTA** поврзување до `https://app.mewayz.com` Тонот е оценет и фокусиран на програмерите, додека природно се премостува со предлогот за вредност на Мевејз околу оперативната контрола и независноста на продавачот.