در این درس در خصوص بخش آماره‌های ضرایب در جدول رگرسیون صحبت خواهیم نمود.

آماره‌های ضرایب در جدول

به شکل زیر توجه کنید:

هم‌اکنون و در این درس، می‌خواهیم بررسی نمائیم که آیا ضرایب تابع رگرسیون خطی دارای یک تاثیر چشم‌گیر و مهم روی متغیر وابسته (مصرف کالری) هستند یا خیر. در واقع می‌خواهیم با استفاده از آزمون‌های آماری، اثبات نمائیم که یک رابطه مابین متوسط ضربان قلب و مصرف کالری وجود دارد.

چهار مولفه وجود دارد که آماره‌های ضرایب را توضیح می‌دهند:

  • std err: که از Standard Error بدست می‌آید
  • t: همان t-مقدار ضرایب است
  • P>|t|: را p-مقدار می‌نامیم
  • [0.025, 0.975]: نشان دهنده‌ی بازه‌ی اطمینان ضرایب است

در این درس و در ادامه، تمرکز و توجه خود را روی دو مفهوم p-مقدار و آزمون فرض می‌گذاریم.

P-مقدار چیست؟

p-مقدار یک عدد آماری است به منظور نتیجه گرفتن درباره‌ی اینکه آیا رابطه‌ای مابین متوسط ضربان قلب و مصرف کالری وجود دارد یا خیر. ما بررسی می‌کنیم که آیا مقدار واقعی ضرایب برابر با صفر است (رابطه‌ای وجود ندارد) و یا خیر. آزمون آماری برای این منظور را آزمون فرض (Hypothesis Testing) (اندکی بعد تعریف می‌کنیم)می‌نامند.

  • یک p-مقدار کوچک (کمتر از 0.05) یعنی ضریب احتمالن برابر با صفر نیست
  • یک p-مقدار بزرگ (بزرگ‌تر از 0.05) یعنی ما نمی‌توانیم نتیجه بگیریم که متغیر توصیفی متغیر وابسته را تحت تاثیر قرار می‌دهد (در اینجا متوسط ضربان قلب، مصرف کالری را تحت تاثیر خود قرار می‌دهد)

یک p-مقدار بزرگ در بعضی از مواقع یک p-مقدار ناچیز (insignificant) نامیده می‌شود.

آزمون فرض

آزمون فرض، یک فرایند آماری است که درست بودن نتایج کار ما را تست می‌نماید. در مثال بالا، ما در حال آزمودن این هستیم که آیا ضریب صحیح (درست) از متغیر “متوسط ضربان قلب” و همچنین عرض از مبداء برابر با صفر هستند یا خیر.

آزمون فرض دارای دو عبارت است؛ فرض صفر و فرض متقابل (alternative):

  • فرض صفر را می‌توان بطور خلاصه بشکل H0 نوشت
  • فرض متقابل  را بصورت HA می‌نویسیم

بطور ریاضی داریم:

H0: Average_Pulse = 0
HA: Average_Pulse ≠ 0
H0: Intercept = 0
HA: Intercept ≠ 0

آزمون فرض و p-مقدار

فرض صفر می‌تواند رد شود و یا برعکس. اگر ما فرض صفر را رد کنیم، نتیجه خواهیم گرفت که رابطه‌ای بین متوسط ضربان قلب و مصرف کالری وجود دارد. در اینجا، p-مقدار برای چنین نتیجه گرفتنی استفاده خواهد شد.

یک حد مرزی (threshold) مرسوم  برای p-مقدار 0.05 می‌باشد.

نکته: یک p-مقدار 0.05 به این معنی است که در 5% از مواقع، ما بطور غلط فرض صفر را رد خواهیم نمود. اگر p-مقدار کمتر از 0.05 باشد، می‌توانیم فرض صفر را رد کرده و نتیجه بگیریم که یک رابطه بین متغیرها وجود دارد.

هرچند که p-مقدار متوسط ضربان قلب برابر است با 0.824. پس ما نمی‌توانیم نتیجه بگیریم که رابطه‌ای بین دو متغیر متوسط ضربان قلب و مصرف کالری وجود دارد. جمله‌ی فوق به این معنی است که با احتمال 82.4% ضریب واقعی متوسط ضربان قلب برابر است با صفر.

عرض از مبداء برای تنظیم نمودن توان تابع رگرسیون به منظور پیش‌بینی دقیق‌تر بکار گرفته شده است. بنابراین تفسیر p-مقدار عرض از مبداء مرسوم نمی‌باشد.