От реализации зависит.
Для данного случая - возможно, что и нет разницы.
---
xbarmaglot упомянул о "своих" железках.
Это значит, что реализовывать ping вовсе не обязательно.
Можно организовать обмен пакетами - например, UDP.
И слать в пакете не просто эхо. Гораздо полезнее слать статус.
Кроме того, можно предусмотреть переключаемое состояние "железки",
при котором она сама (без запроса) раз в указанный период генерит пакет типа "я тута".
При таких обстоятельствах особая производительность при приёме не нужна.
И без отдельного потока тоже вполне можно обойтись. И без сырых сокетов тоже.
---
Время от времени нужно опрашивать статус сокета селектом и читать по мере необходимости.
Несколько раз подряд не пришла квитанция от какой-либо "железки" - это значит, её нет.