1、实施严重损害被监护人身心健康的行为；怠于履行监护职责，或者无法履行监护职责且拒绝将监护职责部分或者全部委托给他人，导致被监护人处于危困状态；实施严重侵害被监护人合法权益的其他行为，是可以要回孩子监护权的。
2、法律依据：《中华人民共和国民法典》第三十六条，监护人有下列情形之一的，人民法院根据有关个人或者组织的申请，撤销其监护人资格，安排必要的临时监护措施，并按照最有利于被监护人的原则依法指定监护人：
(一)实施严重损害被监护人身心健康的行为；
(二)怠于履行监护职责，或者无法履行监护职责且拒绝将监护职责部分或者全部委托给他人，导致被监护人处于危困状态；
(三)实施严重侵害被监护人合法权益的其他行为。