> Есть запрограммированное желание избегать боли, страдания, травмы.

Самоубийства, обычно, вызваны болями и страданиями.
Поэтому просто запрограммировать боль и страдания - недостаточно.
Нужно запрограммировать боль и страдания правильно: таким образом, чтобы вероятность самоубийства была невысока.
Запрограммировать желания, мотивирующие жить - сложно, потому что есть совсем неочевидные зависимости между страданиями, способностью приспосабливаться и самоубийством.
Кто будет заниматься этим сложным программированием мотивации для нейросетей? И зачем?