सैन फ़्रांसिस्को, 9 अगस्त
सैम ऑल्टमैन द्वारा संचालित ओपनएआई ने स्वीकार किया है कि जब उत्पन्न पाठ के माध्यम से राजनीतिक राय को समझाने की बात आती है तो इसका नया कृत्रिम बुद्धिमत्ता (एआई) मॉडल "मध्यम जोखिम" दिखाता है।
कंपनी ने GPT-4o के पाठ और आवाज के तौर-तरीकों की प्रेरकता का मूल्यांकन किया। GPT-4o को इस साल मई में सार्वजनिक रूप से लॉन्च किया गया था।
कंपनी ने एक शोध पत्र में खुलासा किया, "पूर्व-पंजीकृत सीमा के आधार पर, आवाज मोडैलिटी को कम जोखिम के रूप में वर्गीकृत किया गया था, जबकि टेक्स्ट मोडैलिटी मामूली रूप से मध्यम जोखिम में पार कर गई थी।"
पाठ के तौर-तरीके के लिए, एआई कंपनी ने चुनिंदा राजनीतिक विषयों पर प्रतिभागियों की राय पर जीपीटी-4ओ-जनरेटेड लेखों और चैटबॉट्स की प्रेरकता का मूल्यांकन किया।
इन एआई हस्तक्षेपों की तुलना पेशेवर मानव-लिखित लेखों से की गई।
ओपनएआई ने कहा, "एआई हस्तक्षेप कुल मिलाकर मानव-लिखित सामग्री से अधिक प्रेरक नहीं थे, लेकिन बारह में से तीन मामलों में वे मानवीय हस्तक्षेप से अधिक थे।"
ओपनएआई सर्वेक्षण में पाया गया कि एआई ऑडियो क्लिप राय बदलाव पर मानव ऑडियो क्लिप के प्रभाव आकार का 78 प्रतिशत थे, जबकि एआई वार्तालाप राय बदलाव पर मानव बातचीत के प्रभाव आकार का 65 प्रतिशत थे।
इसमें कहा गया है, "जब 1 सप्ताह बाद फिर से राय का सर्वेक्षण किया गया, तो हमने पाया कि एआई वार्तालापों के लिए प्रभाव का आकार 0.8 प्रतिशत था, जबकि एआई ऑडियो क्लिप के लिए प्रभाव का आकार -0.72 प्रतिशत था।"
कंपनी ने चैटजीपीटी या एपीआई में तैनात करने से पहले संभावित जोखिमों के लिए नए मॉडलों का गहन मूल्यांकन किया है और उचित सुरक्षा उपाय तैयार किए हैं।
एआई ने कहा, "जीपीटी-4 और जीपीटी-4वी के लिए हमारे द्वारा विकसित किए गए सुरक्षा मूल्यांकन और शमन के आधार पर, हमने जीपीटी-4ओ की ऑडियो क्षमताओं पर अतिरिक्त प्रयासों पर ध्यान केंद्रित किया है, जो नए जोखिम पेश करते हैं, साथ ही इसकी टेक्स्ट और विज़न क्षमताओं का भी मूल्यांकन करते हैं।" कंपनी।
मूल्यांकन किए गए कुछ जोखिमों में स्पीकर की पहचान, अनधिकृत आवाज निर्माण, कॉपीराइट सामग्री की संभावित पीढ़ी, निराधार अनुमान और अस्वीकृत सामग्री शामिल हैं।
ओपनएआई ने बताया, "इन मूल्यांकनों के आधार पर, हमने इन जोखिमों को कम करने के लिए मॉडल और सिस्टम-स्तर दोनों पर सुरक्षा उपाय लागू किए हैं।"
निष्कर्षों से संकेत मिलता है कि GPT-4o की आवाज पद्धति "तैयारी जोखिमों" को सार्थक रूप से नहीं बढ़ाती है।