وقتی ویتگنشتاین متأخر درباره اعتقاد دینی قلم می‌زند، همچنان بر آن است که کاربرد زبان در مقام بیان اعتقادات دینی، کاملاً متفاوت با کاربرد آن در مقام بیان امور واقع است. ولی دیگر در اینجا نتیجه نمی‌گیرد که پس باید این کاربرد، کاربرد نادرست زبان باشد. هدف اصلی وی توضیح این است که چگونه مفاهیمی مانند گناه، فدیه، داوری، رحمت و کفاره، جایگاهی مسلّم در شیوه زندگی یک فرد یا جامعه دارند.