OpenAI या ChatGPT हे गेले काही दिवस प्रचंड चर्चेत असलेलं AI मॉडेल तयार करणाऱ्या कंपनीने आज नवं AI Text Classifier नावाचं टूल आणलं असून हे टूल दिलेला मजकूर AI ने तयार केला आहे की माणसांनी लिहिला आहे याबद्दल अंदाज व्यक्त करेल.
दिवसेंदिवस निबंध, ईमेल, रिसर्च पेपर्ससाठी AI चा वापर करणं वाढत चालल्यामुळे AI Text Classifier चा काही प्रमाणात उपयोग नक्कीच होऊ शकेल! पण यालासुद्धा काही थोडा बदल केल्यास फसवता येऊ शकतं असं OpenAI स्वतः सांगत आहे!
ADVERTISEMENT
OpenAI ने या Classifier च्या मर्यादा खालीलप्रमाणे असतील असं सांगितलं आहे.
- The classifier is very unreliable on short texts (below 1,000 characters). Even longer texts are sometimes incorrectly labeled by the classifier.
- Sometimes human-written text will be incorrectly but confidently labeled as AI-written by our classifier.
- We recommend using the classifier only for English text. It performs significantly worse in other languages and it is unreliable on code.
- Text that is very predictable cannot be reliably identified. For example, it is impossible to predict whether a list of the first 1,000 prime numbers was written by AI or humans, because the correct answer is always the same.
- AI-written text can be edited to evade the classifier. Classifiers like ours can be updated and retrained based on successful attacks, but it is unclear whether detection has an advantage in the long-term.
- Classifiers based on neural networks are known to be poorly calibrated outside of their training data. For inputs that are very different from text in our training set, the classifier is sometimes extremely confident in a wrong prediction.
अलीकडेच बऱ्याच शाळा, कॉलेजेस, विद्यापीठांमध्ये विद्यार्थ्यानी ChatGPT चा वापर करण्यास बंदी घालण्यात आली आहे!