این مدیر اجرایی یک استارتاپ 6.6 میلیارد دلاری هوش مصنوعی می گوید که او یک نگرانی بسیار بزرگ دارد.

این مدیر اجرایی یک استارتاپ 6.6 میلیارد دلاری هوش مصنوعی می گوید که او یک نگرانی بسیار بزرگ دارد

در مسابقه طوفانی برای توسعه هوش مصنوعی قوی‌تر، سرفصل‌ها تحت تسلط دورهای تأمین مالی، قابلیت‌های مدل، و ارزش‌گذاری بازار هستند. با این حال، در میان این جنون، احتیاط عمیقی از درون بالاترین رده‌های صنعت به صدا درآمده است. یکی از مدیران کلیدی در یک استارت‌آپ پیشرو 6.6 میلیارد دلاری هوش مصنوعی اخیراً با تغییر گفت‌وگو از «آنچه می‌توانیم بسازیم» به «آنچه در حال ساختن هستیم» موجی به راه انداخت. نگرانی اصلی او قدرت محاسباتی یا پیشرفت های الگوریتمی نیست. این چیزی بسیار اساسی‌تر است: یکپارچگی و کیفیت داده‌هایی که ما به جانوران تغذیه می‌کنیم.

مشکل زباله در، انجیل بیرون

نگرانی مدیر اجرایی به یک اصل محاسباتی کلاسیک بستگی دارد: ورود زباله، خروج زباله (GIGO). با این حال، در زمینه مدل‌های زبان بزرگ مدرن و سیستم‌های هوش مصنوعی، ریسک به‌طور تصاعدی بیشتر است. ما از "آشغال بیرون" به "خروج زباله صیقلی، با صدای معتبر" منتقل شده ایم. مدل‌های هوش مصنوعی در بخش‌های وسیع و نامطلوب اینترنت آموزش داده می‌شوند - یک مخزن دیجیتالی حاوی درخشندگی در کنار سوگیری، حقایق آمیخته با ساختگی، و تحلیل‌های متخصص که در زیر اقیانوس‌های افکار مدفون است. هنگامی که یک هوش مصنوعی این پیکره آشفته را ترکیب می کند، می تواند خروجی های معیوب یا مضر را با لحن مطمئن حقیقت مطلق ارائه دهد. ترس این است که ما ناخواسته نقص‌های تاریخی و معاصر خود را در سیستم‌هایی تدوین می‌کنیم که تصمیم‌های آینده در امور مالی، مراقبت‌های بهداشتی و حکمرانی را شکل می‌دهند.

هزینه پنهان بدهی داده

این به طور مستقیم به مفهوم "بدهی داده" منتهی می شود. بسیار شبیه بدهی فنی در توسعه نرم افزار، بدهی داده زمانی افزایش می یابد که سازمان ها مقیاس هوش مصنوعی خود را با داده های به راحتی قابل دسترسی، اما ساختار ضعیف یا بررسی نشده در اولویت قرار دهند. این بدهی بی سر و صدا ترکیب می شود. در کوتاه مدت، مدل کار می کند. در درازمدت، به هزارتویی از نادرستی‌ها و همبستگی‌های ریشه‌دار تبدیل می‌شود که از نظر نجومی پرهزینه هستند و اصلاح آنها دشوار است. مدیر اجرایی استدلال می‌کند که استارت‌آپ‌ها و شرکت‌ها به طور یکسان در عجله خود به بازار بدهی‌های فاجعه‌بار داده‌ها را می‌گیرند و بحران‌های اعتبار و عملکرد آینده را به خطر می‌اندازند. اینجاست که یک رویکرد استراتژیک برای عملیات تجاری حیاتی می شود. پلتفرم‌هایی مانند Mewayz برای مبارزه با بدهی‌های عملیاتی با متمرکز کردن و ساختاردهی داده‌های کسب‌وکار اصلی - از CRM گرفته تا جریان‌های کاری پروژه - ساخته شده‌اند و اطمینان حاصل می‌کنند که وقتی یک شرکت داده‌ها را به ابزارهای هوش مصنوعی خود تغذیه می‌کند، از یک منبع تمیز و قابل اعتماد استفاده می‌کند، نه از محل دفن زباله دیجیتال.

فراخوانی برای هوش سازمان یافته و فرآیندهای انسان محور

راه حل پیشنهادی متوقف کردن پیشرفت نیست، بلکه چرخش به سمت "هوش تنظیم شده" است. این به معنای اجرای فرآیندهای دقیق و مداوم برای ممیزی داده ها، منبع یابی و برچسب گذاری است. برای تنظیم حفاظ ها و تعریف استانداردهای اخلاقی و کیفی که داده های خام قبل از تبدیل شدن به مواد آموزشی باید رعایت کنند، به تخصص انسانی نیاز دارد. این تغییر از اتوماسیون به هر قیمتی به تقویت هوشمند است. این فلسفه فراتر از داده‌های آموزشی هوش مصنوعی به ابزارهایی که تیم‌ها روزانه استفاده می‌کنند گسترش می‌یابد. برای مثال، یک سیستم‌عامل تجاری مدولار، به رهبران این امکان را می‌دهد تا فرآیندهایی را طراحی کنند که نظارت انسانی و بررسی کیفیت را در مقاطع حساس تضمین می‌کند و یک گردش کار ساختاریافته ایجاد می‌کند که از تخریب داده‌ها در نقطه ورود، مدت‌ها قبل از رسیدن به یک مدل هوش مصنوعی جلوگیری می‌کند.

ارکان کلیدی استراتژی "هوش تنظیم شده" باید شامل موارد زیر باشد:

• ردیابی منشأ: دانستن منشاء و تکامل مجموعه داده‌های حیاتی.
• حسابرسی سوگیری: اجرای بررسی‌های منظم و ساختاریافته برای انحراف جمعیت‌شناختی یا تاریخی در داده‌های آموزشی.
• اعتبارسنجی انسان در حلقه: جاسازی چرخه‌های بررسی متخصص در هر دو مرحله آماده‌سازی داده و خروجی مدل.
• حاکمیت بین رشته‌ای: مشارکت متخصصان اخلاق، کارشناسان حوزه و کاربران نهایی در استراتژی داده‌ها، نه فقط مهندسان.

"ما در معرض خطر ساختن نسلی از اوراکل ها هستیم که با اعتقادی باورنکردنی صحبت می کنند، اما از نظر ماهیت زمزمه نازکی دارند. بزرگترین چالش ما دیگر معماری مدل نیست، بلکه پایه ای است که بر روی آن ساخته شده است. اگر این پایه - داده های ما - شکسته شود، هر چیزی که در بالای آن می سازیم، ذاتا ناپایدار است، مهم نیست چقدر چشمگیر به نظر می رسد."

ساختمان بر روی یک پایه پایدار

نگرانی بزرگ مدیر اجرایی به عنوان یک بررسی واقعیت حیاتی برای هر کسب و کاری که هوش مصنوعی را ادغام می کند عمل می کند. هوشمندی هر سیستمی با کیفیت ورودی های آن محدود می شود. برای شرکت هایی که به دنبال استفاده مسئولانه از هوش مصنوعی هستند، اولین قدم این است که به درون نگاه کنند و زیرساخت داده عملیاتی خود را مستحکم کنند. قبل از جستجوی پاسخ از یک مدل زبان بزرگ، مطمئن شوید که سؤالات و زمینه ای که ارائه می کنید ریشه در وضوح و حقیقت دارند. کسب و کارها با اولویت دادن به داده های پاک، ساختاریافته و به خوبی در اکوسیستم خود - با استفاده از ابزارهایی که برای ایجاد چنین نظمی طراحی شده اند، می توانند اطمینان حاصل کنند که بخشی از راه حل هستند و آینده هوش مصنوعی را با مواد تغذیه می کنند، نه فقط سر و صدا. هدف فقط یک مدل هوشمندتر نیست، بلکه یک مدل عاقلانه است که بر پایه‌ای بنا شده است که بتوانیم به آن اعتماد کنیم.

سوالات متداول

این مدیر اجرایی یک استارتاپ 6.6 میلیارد دلاری هوش مصنوعی می گوید که او یک نگرانی بسیار بزرگ دارد

در مسابقه طوفانی برای توسعه هوش مصنوعی قوی‌تر، سرفصل‌ها تحت تسلط دورهای تأمین مالی، قابلیت‌های مدل، و ارزش‌گذاری بازار هستند. با این حال، در میان این جنون، احتیاط عمیقی از درون بالاترین رده‌های صنعت به صدا درآمده است. یکی از مدیران کلیدی در یک استارت‌آپ پیشرو 6.6 میلیارد دلاری هوش مصنوعی اخیراً با تغییر گفت‌وگو از «آنچه می‌توانیم بسازیم» به «آنچه در حال ساختن هستیم» موجی به راه انداخت. نگرانی اصلی او قدرت محاسباتی یا پیشرفت های الگوریتمی نیست. این چیزی بسیار اساسی‌تر است: یکپارچگی و کیفیت داده‌هایی که ما به جانوران تغذیه می‌کنیم.

مشکل زباله در، انجیل بیرون

نگرانی مدیر اجرایی به یک اصل محاسباتی کلاسیک بستگی دارد: ورود زباله، خروج زباله (GIGO). با این حال، در زمینه مدل‌های زبان بزرگ مدرن و سیستم‌های هوش مصنوعی، ریسک به‌طور تصاعدی بیشتر است. ما از "آشغال بیرون" به "خروج زباله صیقلی، با صدای معتبر" منتقل شده ایم. مدل‌های هوش مصنوعی در بخش‌های وسیع و نامطلوب اینترنت آموزش داده می‌شوند - یک مخزن دیجیتالی حاوی درخشندگی در کنار سوگیری، حقایق آمیخته با ساختگی، و تحلیل‌های متخصص که در زیر اقیانوس‌های افکار مدفون است. هنگامی که یک هوش مصنوعی این پیکره آشفته را ترکیب می کند، می تواند خروجی های معیوب یا مضر را با لحن مطمئن حقیقت مطلق ارائه دهد. ترس این است که ما ناخواسته نقص‌های تاریخی و معاصر خود را در سیستم‌هایی تدوین می‌کنیم که تصمیم‌های آینده در امور مالی، مراقبت‌های بهداشتی و حکمرانی را شکل می‌دهند.

هزینه پنهان بدهی داده

این به طور مستقیم به مفهوم "بدهی داده" منتهی می شود. بسیار شبیه بدهی فنی در توسعه نرم افزار، بدهی داده زمانی افزایش می یابد که سازمان ها مقیاس هوش مصنوعی خود را با داده های به راحتی قابل دسترسی، اما ساختار ضعیف یا بررسی نشده در اولویت قرار دهند. این بدهی بی سر و صدا ترکیب می شود. در کوتاه مدت، مدل کار می کند. در درازمدت، به هزارتویی از نادرستی‌ها و همبستگی‌های ریشه‌دار تبدیل می‌شود که از نظر نجومی پرهزینه هستند و اصلاح آنها دشوار است. مدیر اجرایی استدلال می‌کند که استارت‌آپ‌ها و شرکت‌ها به طور یکسان در عجله خود به بازار بدهی‌های فاجعه‌بار داده‌ها را می‌گیرند و بحران‌های اعتبار و عملکرد آینده را به خطر می‌اندازند. اینجاست که یک رویکرد استراتژیک برای عملیات تجاری حیاتی می شود. پلت‌فرم‌هایی مانند Mewayz برای مقابله با بدهی‌های عملیاتی با متمرکز کردن و ساختاردهی داده‌های تجاری اصلی - از CRM گرفته تا گردش‌های کاری پروژه - ساخته شده‌اند که تضمین می‌کند زمانی که یک شرکت داده‌ها را به ابزارهای هوش مصنوعی خود تغذیه می‌کند، از یک منبع تمیز و قابل اعتماد استفاده می‌کند، نه یک محل دفن زباله دیجیتال.

فراخوانی برای هوش سازمان یافته و فرآیندهای انسان محور

راه حل پیشنهادی متوقف کردن پیشرفت نیست، بلکه چرخش به سمت "هوش تنظیم شده" است. این به معنای اجرای فرآیندهای دقیق و مداوم برای ممیزی داده ها، منبع یابی و برچسب گذاری است. برای تنظیم حفاظ ها و تعریف استانداردهای اخلاقی و کیفی که داده های خام قبل از تبدیل شدن به مواد آموزشی باید رعایت کنند، به تخصص انسانی نیاز دارد. این تغییر از اتوماسیون به هر قیمتی به تقویت هوشمند است. این فلسفه فراتر از داده‌های آموزشی هوش مصنوعی به ابزارهایی که تیم‌ها روزانه استفاده می‌کنند گسترش می‌یابد. برای مثال، یک سیستم‌عامل تجاری مدولار، به رهبران این امکان را می‌دهد تا فرآیندهایی را طراحی کنند که نظارت انسانی و بررسی کیفیت را در مقاطع حساس تضمین می‌کند و یک گردش کار ساختاریافته ایجاد می‌کند که از تخریب داده‌ها در نقطه ورود، مدت‌ها قبل از رسیدن به یک مدل هوش مصنوعی جلوگیری می‌کند.

ساختمان بر روی یک پایه پایدار

نگرانی بزرگ مدیر اجرایی به عنوان یک بررسی واقعیت حیاتی برای هر کسب و کاری که هوش مصنوعی را ادغام می کند عمل می کند. هوشمندی هر سیستمی با کیفیت ورودی های آن محدود می شود. برای شرکت هایی که به دنبال استفاده مسئولانه از هوش مصنوعی هستند، اولین قدم این است که به درون نگاه کنند و زیرساخت داده عملیاتی خود را مستحکم کنند. قبل از جستجوی پاسخ از یک مدل زبان بزرگ، مطمئن شوید که سؤالات و زمینه ای که ارائه می کنید ریشه در وضوح و حقیقت دارند. کسب و کارها با اولویت دادن به داده های پاک، ساختاریافته و به خوبی در اکوسیستم خود - با استفاده از ابزارهایی که برای ایجاد چنین نظمی طراحی شده اند، می توانند اطمینان حاصل کنند که بخشی از راه حل هستند و آینده هوش مصنوعی را با مواد تغذیه می کنند، نه فقط سر و صدا. هدف فقط یک مدل هوشمندتر نیست، بلکه یک مدل عاقلانه است که بر پایه‌ای بنا شده است که بتوانیم به آن اعتماد کنیم.