فاحص الأحرف والترميز

اكتشف الأحرف الخفية وأحرف التحكم في الاتجاه والأحرف غير المعتادة المختبئة في نص، ونظّفه منها.

طريقة الاستخدام

ما الذي يفحصه وكيف يعمل

تعرض الأداة كل نقطة ترميز في النص مع رقمها U+ وبايتات UTF-8 وفئتها العامة في Unicode، وهي مقروءة من جداول Unicode في محرك JavaScript نفسه، ومع اسم ونوع للأحرف غير المرئية وأحرف التنسيق والمسافات وأحرف التحكم في الاتجاه. والأسماء مضمنة لهذه الأحرف وحدها، أما أي حرف آخر فيعطيه الجدول فئته العامة لا اسمه في Unicode. وتتبع أصناف الاتجاه وأحرف التحكم فيه الملحق القياسي رقم 9 من Unicode (UAX #9) بالاستعانة بحزمة bidi-js، وتُبلَّغ أحرف التحكم غير المتوازنة. وأحرف التحكم في الاتجاه غير المغلقة في الشيفرة المصدرية هي أساس هجوم Trojan Source المشروح في trojansource.codes (CVE-2021-42574). يمكن عرض النص مع وسم الأحرف غير المعتادة أو مكتوباً بصيغ هروب Unicode أو منظفاً. ويمكن للتنظيف أن يُبقي الواصل غير المنضم والواصل المنضم (ZWNJ وZWJ) اللذين تستعملهما الكتابة العربية والفارسية. وتحاول الأداة كذلك إصلاح الترميز المشوَّه، وهو نص فُك ترميزه بترميز خاطئ، بقراءته بايتات windows-1252 وفك ترميز هذه البايتات بوصفها UTF-8 كما يعرّف معيار WHATWG Encoding. حدود الأداة: الإصلاح تخمين راجعه بعينك، ولا تطبّع الأداة النص ولا تدقق إملاءه. وعند طلب عرض كل حرف تُعرض أول 300 فقط.

ما الأحرف الخفية ولماذا تهم؟

هي نقاط ترميز لا تطبع شيئاً، مثل المسافات عديمة العرض وأحرف التحكم في الاتجاه. وقد تفسد المطابقة والروابط والشيفرة، وتبين أبحاث Trojan Source أنها قد تختبئ في الشيفرة المصدرية.

هل أحذف الواصل المنضم من النص العربي؟

ليس دائماً. فالواصل غير المنضم والواصل المنضم يُستعملان في الكتابة العربية والفارسية، لذلك تتيح الأداة إبقاءهما عند التنظيف.

ما الترميز المشوَّه؟

هو نص فُك ترميزه بترميز خاطئ فيظهر العربي على هيئة سلاسل مثل العربية. ويعيد الإصلاح قراءته بايتات windows-1252 ويفك ترميزها بوصفها UTF-8.

المصادر

أدوات ذات صلة

الخصوصية

يعمل في متصفحك ولا يُرفع أي شيء. الأداة التفاعلية تحتاج إلى JavaScript.