बौधायन श्रौतसूत्रम् (कृष्ण यजुर्वेद तैत्तिरीय शाखा - सम्पूर्ण प्रश्न एवं श्रौत-याग कल्प सटीक)

• उत्तरतो -> ब्राह्मणमेषोत्त'रतो!)
  Yes!! It is Caland's elision/sandhi apostrophe! Caland uses ' to mark sandhi where a vowel or word boundary occurs!
  So it is simply the apostrophe character ' (or avagraha ऽ when it's avagraha, but here it's an apostrophe ').

Let's check every occurrence:
Line 1:
गार्हपत्यं परिस्तृणाति ' तमुत्तरेणैकैकꣳ सम्पादयति कशि-
Line 2:
पूपबर्हणे आञ्जनाभ्यञ्जने दशाꣳ स्फ्यमुदकुम्भौ यज्ञायुधानीत्य'थ
Line 3:
यज्ञोपवीतं कृत्वोत्तरेण¹ गार्हपत्यमुपविश्य पवित्रवत्याग्निहोत्र-
Line 4:
हवण्या निर्वपति ' देवस्य त्वा सवितुः प्रसवे ऽश्विनोर्बाहुभ्यां
Line 5:
पूष्णो हस्ताभ्याꣳ सोमाय पितृमते जुष्टं निर्वपामीति चतुरो
Line 6:
मुष्टीन्व्रीहीणां निर्वपत्येतामेव प्रतिपदं कृत्वा पितृभ्यो बर्हिषद्भ्यो
Line 7:
जुष्टं निर्वपामीति चतुरो यवानामेतामेव