Jajakallah Khair.
Ref. No. 949/41-93
In the name of Allah the most Gracious the most Merciful
The answer to your question is as follows:
Yes, in this case you have to do Sajda-e Sahw at the end as you have followed your imam in salam by mistake.
ولو سلم المسبوق مع الإمام ينظر إن كان ذاكرا لما عليه من القضاء فسدت صلاته وإن كان ساهيا لما عليه من القضاء لا تفسد صلاته؛ لأنه سلام الساهي فلا يخرجه عن حرمة الصلاة. كذا في شرح الطحاوي في باب سجود السهو. (الفتاوی الھندیۃ 1/98)
And Allah knows best
Darul Ifta
Darul Uloom Waqf Deoband