ম্যাক্সিমাম লাইকলিহুড
ধরা যাক, আমাদের ডেটা এমন,
- <math>D=(x_1,....,x_n), \ x_i \in \mathcal{R}^d</math>
এখানে x এর প্রতিটি মান একটি বিশেষ সম্ভাব্যতা বণ্টন মেনে চলে যা এমন,
- <math>\{ P_\theta : \theta \in \Theta \} \text{ on } \mathcal{R}^d</math>
এরই নাম লাইকলিহুড ফাংশন (লফ)। একে <math>P(D|\theta)</math> আকারেও লেখা হয়। x এর সকল মানের ফাংশন হচ্ছে লফ। ডেটা সেই সকল মান থেকে দৈবভাবে কেবল একটি বেছে নেয়। যেমন, P বণ্টন অনুসরণ করে বণ্টিত চলকসমষ্টি <math>X_i</math> থেকে ডেটা (D) দৈবভাবে কেবল একটি অর্থাৎ <math>x_i</math> বেছে নেয়। লফকে এভাবে লেখা যায়,
- <math>
\begin{alignat}{2} P(D\mid\theta) & = P(x_1,....,x_n \mid \theta) \\
& = \prod_{i=1}^n P(x_i \mid\theta) \\ & = \prod_{i=1}^n P(X_i=x_i \mid\theta)
\end{alignat} </math>
গাউসীয় বিন্যাসের একটি স্যাম্পল থেকে দৈব নির্বাচনের মাধ্যমে ডেটা তৈরি হলে লফ হবে গাউসীয় বিন্যাসের সম্ভাব্যতা ঘনত্ব ফাংশন বা পিডিএফ।
ম্যাক্সিমাম লাইকলিহুড এস্টিমেশন একটি নির্দিষ্ট রাশির এমন একটি মান নির্ণয়ের চেষ্টা করে যার জন্য লাইকলিহুড ফাংশনের মান সর্বোচ্চ তথা ম্যাক্সিমাম হবে। এখানে রাশিটি হচ্ছে <math>\theta</math>, এই রাশির এমন মান নির্ণয় করতে হবে যার জন্য <math>P(D|\theta)</math> সর্বোচ্চ, অর্থাৎ এমন ডেটা পাওয়ার সম্ভাব্যতা সর্বোচ্চ। একে সমীকরণের মাধ্যমে এভাবে লেখা যায়,
- <math>P(D\mid\theta_{MLE}) = \text{max } P(D\mid\theta)</math>