الذكاء الاصطناعي على الحدود
تسكن ثمانية ملي ثانية دائمًا، دائماً، تفوز بـ 180 عندما يكون الرابط متصلًا
نموذج في السيارة أو على الآلة لا يمكنه الانتظار لشبكة. يتم تحديد الميزانية قبل اختيار أي شيء، ويصغر النموذج حتى يناسب.
لماذا الجهاز وليس السحابة
ثلاثة أسباب، وهم تجمع. التأخير، لأن حلقة التحكم التي يجب أن تمر عبر الشبكة لها أسوأ حالة مقيمة في ثوانٍ بدلاً من ملي ثانية. المتوفرية، لأن الآلة التي توقف العمل عند فقدان الاتصال ليست آلة يمكن أن يثق بها. وبيانات، لأن أرخص طريقة لضمان الخصوصية هي عدم نقلها.
الكلفة هي أن كل شيء أصبح محكوماً بميزانية. الذاكرة والقدرة الحاسوبية والطاقة تحددها الأجهزة التي يمكن شراؤها فعلياً، ويجب أن يتسع النموذج داخل ما يتبقى بعد أن يأخذ باقي المنتج حصته.
الحساب
يصغر النموذج حتى يتناسب الميزانية
ترتيب العمل هو العكس من الوضع المعتاد. قياس ما يجب أن يفعله الحلقة وكيف مرة، وطرح ما يحتاجه باقي البرامج الثابتة، وما يبقى هو ميزانية النموذج.
ثم يتم تكييف النموذج إلى تلك الميزانية من خلال التقليل، أو التقطيع، أو اختيار هيكل أصغر وتدريبه بشكل صحيح. كل خطوة مقيمة ضد مجموعة التقييم، لذا يمكنك رؤية بدقة ما تم تبادله مقابل ما من الملي ثانية.
النتيجة عادة ما تكون أصغر مما يتوقعه الناس و أفضل مما يخشونه. النموذج الذي يجب أن يكون صحيحًا حول شيء ضيق لا يحتاج إلى أن يكون كبيرًا.
الخيارات
ما يقرره المعدات لك
يختار الكتلة المدمجة مبكراً وصعب التغيير، مما يجعل هذا الصف المكلف للخطأ.
| القيود | ما يحلل | أين يربط عادة في البداية |
|---|---|---|
| ميزانية التأخير | ما مقدار القدرة الحاسوبية التي يمكن أن يستخدمها استدلال واحد | حلقات التحكم، حيث يكون الموعد النهائي صارمًا |
| الذاكرة | ما هو الحجم الذي قد يكون له النموذج بالكامل | التحكم الصغير في الميكروكونترات، قبل أن يبدأ الحساب |
| الطاقة | ما هو التكرار الذي قد يجريه | أي شيء على البطارية |
| الحرارة | النسبة المستدامة بدلاً من معدل القمة | الغطاء المغلق، وغالبا ما يتم العثور عليه في النهاية |
السطر الأخير هو الذي يدهش الناس. جزء يعمل بسرعة على المكتبة يعمل ببطء في صندوق مغلق، وعادة ما يكون الصندوق معدًا بالفعل.
أو اكتب هنا
ثلاثة حقول، وشخص يقرأها
اسم، عنوان يمكننا الإجابة عليه، وما تحاول بناؤه. تحصل على إشارة مباشرة.
ما يجب أن يقرر بدون شبكة؟
أخبرنا عن الموعد النهائي والجهد اليدوي. هذين العاملين يحددون ما إذا كان الأمر ممكنًا قبل أن يبدأ أي شخص في كتابة الكود.
