Kvarx, так как инсерт уже произошел, то @article_id у тебя будет всегда равна только что вставленой записи.
Если надо обезательно триггером, то исспользуй INSTEAD OF INSERT, и сам вручную вставляй после проверки.
Ну а если по доброму это делать, то надо уникальный индекс построить по полю name без всяких триггеров
