نماذج الترانسفورمر

 نماذج الترانسفورمر (Transformers)

   تعد هذه النماذج بمثابة ( ثورة لغوية ) فهي أساس عمل النماذج اللغوية الكبيرة مثل ChatGPT و Gemini، هذه النماذج لديها قدرة كبيرة على فهم السياق الكامل للكلمات في جملة أو فقرة، وليس فقط الكلمات الفردية، هذه القدرة على فهم (روابط) الكلمات سمحت لها بإنشاء نصوص متماسكة، وأكواد برمجية، وحتى الحوارات

   وهذه التقنية تم تقديمها في ورقة بحثية بعنوان (الانتباه هو كل ما تحتاجه) عام 2017 من قبل فريق من الباحثين في Google.