[ad_1]
Anthropic, Alphabet द्वारे समर्थित कृत्रिम बुद्धिमत्ता कंपनीने मंगळवारी एक मोठे भाषा मॉडेल जारी केले जे ChatGPT च्या निर्मात्या Microsoft-समर्थित OpenAI च्या ऑफरशी थेट स्पर्धा करते.
मोठ्या भाषेतील मॉडेल्स हे अल्गोरिदम आहेत ज्यांना मानवी-लिखित प्रशिक्षण मजकूर फीड करून मजकूर तयार करण्यास शिकवले जाते. अलिकडच्या वर्षांत, संशोधकांनी त्यांना दिलेला डेटा आणि त्यांना प्रशिक्षित करण्यासाठी वापरल्या जाणार्‍या संगणकीय शक्तीचे प्रमाण प्रचंड वाढवून अशा मॉडेल्ससह बरेच जास्त मानवासारखे परिणाम प्राप्त केले आहेत.
क्लॉड, ज्याप्रमाणे अँथ्रोपिकचे मॉडेल ओळखले जाते, ते ChatGPT प्रमाणेच मानवी-सदृश मजकूर आउटपुटसह प्रॉम्प्टला प्रतिसाद देऊन, कायदेशीर करार संपादित करणे किंवा संगणक कोड लिहिणे अशा स्वरूपाची कार्ये करण्यासाठी तयार केले आहे.
परंतु अँथ्रोपिक, ज्याची सह-स्थापना दारियो आणि डॅनिएला अमोदेई या भावंडांनी केली होती, जे दोघेही ओपनएआयचे माजी अधिकारी आहेत, त्यांनी एआय सिस्टम तयार करण्यावर लक्ष केंद्रित केले आहे ज्यात आक्षेपार्ह किंवा धोकादायक सामग्री तयार करण्याची शक्यता कमी आहे, जसे की संगणक हॅकिंग किंवा तयार करण्याच्या सूचना. इतर प्रणालींपेक्षा शस्त्रे.
न्यूयॉर्क टाइम्सच्या स्तंभलेखकाने चॅटबॉटने बदललेला अहंकार दाखवला आणि विस्तारित संभाषणादरम्यान अस्वस्थ प्रतिसाद निर्माण केल्याचे आढळल्यानंतर मायक्रोसॉफ्टने आपल्या नवीन चॅट-संचालित बिंग शोध इंजिनवर क्वेरी मर्यादित ठेवण्याचे म्हटल्यानंतर गेल्या महिन्यात अशा AI सुरक्षिततेच्या चिंतांना महत्त्व प्राप्त झाले.
टेक कंपन्यांसाठी सुरक्षितता समस्या ही एक काटेरी समस्या बनली आहे कारण चॅटबॉट्स त्यांना व्युत्पन्न केलेल्या शब्दांचा अर्थ समजत नाहीत.
हानिकारक सामग्री निर्माण होऊ नये म्हणून, चॅटबॉट्सचे निर्माते सहसा विशिष्ट विषय क्षेत्र पूर्णपणे टाळण्यासाठी त्यांना प्रोग्राम करतात. परंतु यामुळे चॅटबॉट्स तथाकथित “प्रॉम्प्ट अभियांत्रिकी” साठी असुरक्षित राहतात, जेथे वापरकर्ते निर्बंधांभोवती त्यांचे मार्ग बोलतात.
अँथ्रोपिकने भिन्न दृष्टीकोन घेतला आहे, ज्याने क्लॉडला मोठ्या प्रमाणात मजकूर डेटासह मॉडेल “प्रशिक्षित” केले जाते तेव्हा तत्त्वांचा संच दिला. संभाव्य धोकादायक विषय टाळण्याचा प्रयत्न करण्याऐवजी, क्लॉडला त्याच्या तत्त्वांवर आधारित, त्याचे आक्षेप स्पष्ट करण्यासाठी डिझाइन केले आहे.
“कोणतीही भीतीदायक गोष्ट नव्हती. आम्हाला अँथ्रोपिक आवडण्याचे हे एक कारण आहे,” रिचर्ड रॉबिन्सन, रॉबिन एआयचे मुख्य कार्यकारी, लंडन-आधारित स्टार्टअप जे अँथ्रोपिकने क्लॉडला लवकर प्रवेश मंजूर केलेल्या कायदेशीर करारांचे विश्लेषण करण्यासाठी एआय वापरते, एका मुलाखतीत रॉयटर्सला सांगितले. .
रॉबिन्सन म्हणाले की त्यांच्या फर्मने ओपनएआयचे तंत्रज्ञान कॉन्ट्रॅक्टमध्ये लागू करण्याचा प्रयत्न केला होता परंतु असे आढळले की क्लॉड दाट कायदेशीर भाषा समजून घेण्यास चांगले आहे आणि विचित्र प्रतिसाद निर्माण करण्याची शक्यता कमी आहे.
रॉबिन्सन म्हणाले, “काहीही असल्यास, खरोखर स्वीकारार्ह वापरासाठी त्याचे प्रतिबंध काहीसे सैल करणे हे आव्हान होते.”
© थॉमसन रॉयटर्स 2023
.